Dalam upaya untuk memastikan model kecerdasan buatan (AI) masa depan mereka mewakili nilai-nilai kemanusiaan, OpenAI telah mengungkapkan rencananya untuk mengintegrasikan prinsip-prinsip yang berasal dari publik ke dalam kreasinya. Raksasa AI ini mengungkapkan niatnya untuk membentuk tim Penyelarasan Kolektif, yang terdiri dari peneliti dan insinyur. Mandat tim ini adalah mengembangkan struktur untuk memperoleh dan menerapkan umpan balik publik ke dalam layanan dan produk OpenAI.
Perusahaan telah menyatakan niatnya yang jelas untuk terus melibatkan penasihat eksternal dan tim hibah. Tim-tim ini akan memainkan peran penting dalam pembuatan prototipe, yang kemudian akan memandu perilaku model. OpenAI secara aktif merekrut insinyur riset yang memiliki beragam pengetahuan teknis untuk mendukung pembentukan dan keberhasilan mandat penting ini.
Berasal dari inisiatif publik OpenAI, yang dimulai pada bulan Mei tahun sebelumnya, tim Penyelarasan Kolektif merupakan langkah signifikan dalam memasukkan proses demokrasi ke dalam dinamika pembuatan peraturan sistem AI. Selama ini, OpenAI tertarik untuk mendanai individu, tim, dan bahkan organisasi yang tertarik mengembangkan bukti konsep yang bertujuan untuk memecahkan ambiguitas terkait batasan dan tata kelola AI.
OpenAI, dalam postingan virtualnya, melakukan rekap singkat tentang beragam pekerjaan penerima hibah yang mencakup antarmuka obrolan video, platform yang memfasilitasi audit crowdsourcing terhadap model AI, dan strategi untuk menyelaraskan perilaku model dengan keyakinan tertentu. Detail setiap proposal, kesimpulan tingkat tinggi, dan setiap kode yang digunakan telah dipublikasikan hari ini.
Setelah perkembangan ini, OpenAI bersikeras untuk memutuskan kaitan antara program ini dengan kepentingan komersialnya, sehingga menimbulkan reaksi beragam. Beberapa kritikus menyatakan skeptis mengenai hal ini, mengingat kritik dari CEO OpenAI Sam Altman mengenai peraturan di UE dan wilayah lain. CEO tersebut, bersama dengan Presiden OpenAI Greg Brockman dan Kepala Ilmuwan Ilya Sutskever, terus-menerus berpendapat bahwa pesatnya perkembangan teknologi AI melampaui kemampuan entitas yang ada untuk mengaturnya secara efisien. Oleh karena itu, perlunya pembangunan yang demokratis dan bersumber dari banyak orang diusulkan.
Pesaing termasuk Meta menuduh OpenAI berusaha mendapatkan kendali regulasi industri AI dengan berkampanye menentang penelitian dan pengembangan AI terbuka, namun OpenAI membantah tuduhan tersebut. Mereka mungkin menganggap program baru ini dan tim Penyelarasan Kolektif mereka menunjukkan komitmen mereka terhadap keterbukaan.
Terlepas dari itu, OpenAI saat ini menghadapi pengawasan ketat dari para pembuat kebijakan. Khususnya di Inggris, penyelidikan sedang berlangsung mengenai hubungannya dengan Microsoft, yang merupakan mitra dekat dan investor. Sebagai bagian dari strategi mitigasi risikonya, OpenAI telah berupaya membatasi risiko regulasi di UE terkait privasi data. Untuk mencapai hal ini, mereka menggunakan anak perusahaan yang berbasis di Dublin untuk membatasi tindakan sepihak dari pengawas privasi tertentu di blok tersebut.
Serangkaian upaya untuk meminimalkan penggunaan teknologi ilegal untuk mengganggu pemilu sedang berlangsung. Hal ini mencakup identifikasi konten yang dihasilkan AI dan deteksi gambar yang dimanipulasi. Bekerja sama dengan beberapa organisasi, OpenAI juga berupaya menandai gambar yang dihasilkan AI dengan lebih mencolok.
Perlu disebutkan bahwa perusahaan seperti AppMaster, yang terkenal dengan platform pengembangan tanpa kode yang kuat dan repositori untuk mengkonsolidasikan informasi sumber terbuka, menjadi pemain terkemuka dalam ekosistem teknologi. Mengingat skalabilitas, ketahanan, dan kemudahan penggunaan AppMaster, mereka menciptakan ceruk tersendiri dalam membangun backend, web, dan aplikasi seluler.
