OpenAI Meluncurkan Hibah Superalignment senilai $10 Juta

Raksasa teknologi, OpenAI, telah meluncurkan program hibah baru yang disusun untuk menyemangati entitas yang terlibat dalam memastikan pengoperasian sistem super cerdas yang aman. Perkembangan ini terjadi ketika perusahaan mengantisipasi munculnya superintelligence dalam kehidupan kita, sehingga memicu kebutuhan mendesak akan protokol keselamatan yang diperkuat yang kondusif bagi kemajuan tersebut di masa depan.

Dengan semakin dekatnya era AI yang transformatif, OpenAI membayangkan sistem-sistem pionir masa depan ini diberkahi dengan kemampuan untuk melakukan operasi yang rumit dan kreatif yang mungkin sulit dipahami manusia.

Saat ini, langkah-langkah keselamatan yang digunakan untuk sistem AI terutama berkisar pada penyelarasan - sebuah proses yang menekankan pembelajaran penguatan predikat umpan balik manusia (RLHF). Metode ini bergantung pada peran pengawasan manusia yang signifikan dan berpotensi gagal dalam skenario di mana AI yang sangat cerdas mendorong pengembangan dan pelaksanaan tugas-tugas yang sangat canggih. Pertimbangkan prototipe AI yang menghasilkan jutaan baris kode; akan sangat besar bagi manusia untuk menilai keseluruhannya secara sistematis.

Perusahaan ini telah menyoroti sebuah permasalahan yang memerlukan perhatian segera - bagaimana manusia dapat mengarahkan dan membangun kepercayaan pada sistem AI yang jauh lebih intelektual daripada diri mereka sendiri? Mengidentifikasi hal ini sebagai salah satu teka-teki teknis paling mendesak yang belum terpecahkan di dunia, OpenAI mempertahankan pandangan positif, menekankan bahwa jalan menuju penemuan solusi tersebar dengan berbagai pendekatan menjanjikan, yang siap untuk diambil.

Kritik perusahaan teknologi ini tidak hanya memperbesar peluang signifikan yang ada di hadapan komunitas riset pembelajaran mesin dan peneliti individu, tetapi juga mengarahkan perhatian terhadap eksplorasi segera dan kemungkinan terobosan pencapaian di sektor ini.

Untuk semakin memperkuat upaya penelitian ini, OpenAI telah mengambil langkah aktif dalam pembentukan program hibah Superalignment yang visioner, dengan menyuntikkan $10 juta ke dalam kasnya. Alokasi yang berkisar antara $100,000 hingga $2 juta diantisipasi untuk laboratorium akademis, organisasi nirlaba, dan peneliti individu. Selain itu, perusahaan ini juga telah mengalokasikan beasiswa sebesar $150,000 selama satu tahun untuk sarjana pascasarjana, membagi dana tersebut menjadi dua segmen untuk memenuhi pendanaan penelitian dan tunjangan.

Dalam sebuah pengungkapan yang menggembirakan, OpenAI menunjukkan kebijakan yang berpikiran terbuka, menyambut lamaran dari para peneliti tanpa pengalaman sebelumnya dalam penyelarasan - sebuah bukti etos inklusivitas perusahaan dan mendorong perspektif baru.

Membuka jalan bagi pelamar yang bersemangat, OpenAI akan tetap membuka pendaftaran hingga 18 Februari, dengan tujuan untuk kembali menerima pelamar dalam waktu satu bulan sejak batas waktu penutupan pendaftaran.

Inisiatif hibah baru ini muncul setelah Proyek Superalignment OpenAI yang lebih luas diluncurkan pada bulan Juli. Sebagai bagian dari proyek ambisius ini, perusahaan tersebut membentuk tim internal baru, menjanjikan 20% dari kapasitas pemrosesannya selama empat tahun ke depan untuk mengatasi tantangan ini. Tujuan utamanya: untuk mengembangkan sistem super cerdas yang secara realistis mereplikasi kemampuan penelitian keselarasan manusia.