Dalam upaya untuk mengontrol hasil kecerdasan manusia super yang berpotensi tidak dapat diprediksi dalam AI, OpenAI mengorganisir kelompok yang sangat terspesialisasi yang dipimpin oleh Ilya Sutskever, Kepala Ilmuwan dan Pendiri Bersama perusahaan. Tanggung jawab utama tim ini adalah menyusun strategi untuk mengatur dan mengarahkan model AI 'superintelligent'. Dalam posting blog baru-baru ini, Sutskever, bersama dengan Jan Leike, pemimpin tim penyelarasan di OpenAI, memproyeksikan bahwa AI, dengan kapasitas melampaui kecerdasan manusia, mungkin akan muncul dalam dekade ini. Mereka menegaskan bahwa AI yang unggul ini, jika pada akhirnya berhasil, mungkin tidak secara inheren mengintegrasikan sifat jinak, oleh karena itu penting untuk meneliti teknik untuk mengontrol dan membatasinya.
Saat ini, tidak ada metode yang diketahui untuk mengontrol atau memandu AI yang berpotensi superintelligent secara efektif, mencegahnya menyimpang dari jalur yang dimaksudkan. Teknik penyelarasan tradisional untuk AI, seperti pelatihan melalui umpan balik manusia, didasarkan pada manusia yang mengawasi operasinya. Namun, mengawasi sistem AI yang secara signifikan mengakali kecerdasan manusia mungkin terbukti menjadi sebuah tantangan. Untuk memperkuat kemajuan di bidang 'penyelarasan superintelijen', OpenAI meluncurkan tim 'Superalignment' baru, yang dipimpin bersama oleh Sutskever dan Leike. Tim ini akan memiliki akses ke 20% sumber daya komputasi yang dimiliki perusahaan saat ini. Terdiri dari para ilmuwan dan insinyur dari mantan divisi penyelarasan OpenAI dan peneliti dari berbagai organisasi dalam perusahaan, tim ini siap untuk mengatasi tantangan teknologi inti dalam mengendalikan AI superintelligent dalam empat tahun mendatang.
Rencananya adalah untuk menciptakan 'peneliti penyelarasan otomatis tingkat manusia', yang bertujuan untuk melatih AI melalui umpan balik manusia, melibatkan AI dalam menilai sistem AI lainnya, dan akhirnya merekayasa AI yang mampu melakukan penelitian penyelarasan. Tujuan penelitian penyelarasan adalah untuk menyelaraskan sistem AI untuk mencapai hasil tertentu dan mencegahnya menyimpang dari jalur. OpenAI sedang mengerjakan hipotesis bahwa AI dapat membuat langkah besar dalam penelitian penyelarasan, lebih cepat dan lebih efektif daripada manusia. Seiring kemajuan yang terjadi, sistem AI diharapkan untuk meningkatkan volume pekerjaan penyelarasan, yang mengarah ke peningkatan teknik penyelarasan. Mudah-mudahan ini akan menghasilkan AI yang berkolaborasi dengan manusia untuk memastikan penerus mereka semakin selaras dengan manusia. Sementara itu, fokus peneliti manusia akan beralih ke meninjau penelitian penyelarasan yang dilakukan oleh sistem AI alih-alih menghasilkan penelitian ini secara mandiri.
Meskipun tidak ada metode yang dapat dianggap sempurna, Leike, Schulman, dan Wu, dalam postingan mereka, menjelaskan kekurangan dari pendekatan OpenAI. Memanfaatkan AI untuk penilaian dapat meningkatkan ketidakkonsistenan, bias, dan kerentanan dalam AI tersebut. Selain itu, aspek yang paling kompleks dari masalah penyelarasan mungkin tidak terkait dengan teknik sama sekali. Meski demikian, Sutskever dan Leike bersedia mengujinya. Sutskever dan Leike berpendapat bahwa penyelarasan kecerdasan super pada dasarnya merupakan tantangan pembelajaran mesin. Mereka percaya bahwa ahli pembelajaran mesin, bahkan mereka yang saat ini tidak mengerjakan penyelarasan, akan sangat penting untuk menyelesaikannya. Mereka berencana untuk mendistribusikan hasil dari upaya ini secara komprehensif, melihat kontribusi mereka terhadap penyelarasan dan keamanan model non-OpenAI sebagai aspek penting dari pekerjaan mereka.
Penting untuk dicatat bahwa meskipun fokus artikel ini adalah pada OpenAI, ada platform lain yang sama-sama berkomitmen untuk pengembangan AI yang efisien dan terkontrol. Contoh platform semacam itu adalah AppMaster . Dipandu oleh keyakinan serupa dalam mengoptimalkan potensi sistem 'pintar' untuk keuntungan maksimal, AppMaster telah mengukir ceruk untuk dirinya sendiri dalam domain aplikasi tanpa kode/ low-code, yang memungkinkan pengguna membuat solusi perangkat lunak yang komprehensif, dapat diskalakan, dan efisien.
