OpenAI, 10 Milyon Dolarlık Süper Hizalama Hibelerini Açıkladı

Teknoloji devi OpenAI, süper akıllı sistemlerin güvenli bir şekilde çalışmasını sağlamakla ilgilenen kuruluşların canlandırılması etrafında yapılandırılmış yeni bir hibe programını başlattı. Bu gelişme, firmanın süper zekanın yaşamımız boyunca ortaya çıkacağını öngörmesiyle ortaya çıkıyor ve bu tür gelecekteki ilerlemelere olanak sağlayacak güçlendirilmiş güvenlik protokollerine acil bir ihtiyaç duyulmasına yol açıyor.

Bu dönüştürücü yapay zeka dönemi yaklaşırken OpenAI, bu öncü gelecek sistemlerin, insan kavrayışından kaçabilecek karmaşık, yaratıcı işlemleri gerçekleştirme becerisine sahip olacağını öngörüyor.

Şu anda yapay zeka sistemleri için kullanılan güvenlik önlemleri esas olarak hizalama etrafında dönüyor; bu, insan geri bildirimine dayalı takviyeli öğrenmeyi (RLHF) vurgulayan bir süreç. Bu yöntem, önemli bir insan denetleyici rolüne dayanır ve süper akıllı yapay zekanın son derece gelişmiş görevlerin geliştirilmesini ve yürütülmesini teşvik ettiği bir senaryoda potansiyel olarak bocalayabilir. Milyonlarca kod satırı üreten bir yapay zeka prototipini düşünün; Onun bütünlüğünü sistematik olarak değerlendirmek insanlar için Herkül gibi olurdu.

Şirket, acil müdahale gerektiren açık bir ikilemin altını çizdi: İnsanlar kendilerinden çok daha entelektüel olan yapay zeka sistemlerini nasıl yönlendirebilir ve onlara güven kurabilirler? Bunu dünyanın en acil çözülmemiş teknik muammalarından biri olarak tanımlayan OpenAI, olumlu bir bakış açısını koruyor ve çözüm keşfine giden yolun, seçilmeye hazır çok sayıda umut verici yaklaşımla dağıldığını vurguluyor.

Teknoloji firmasının eleştirisi, yalnızca makine öğrenimi araştırma topluluğu ve bireysel araştırmacıların önündeki önemli fırsatı güçlendirmekle kalmıyor, aynı zamanda bu sektördeki acil keşif ve olası başarı atılımlarına da dikkat çekiyor.

Bu araştırma girişimlerini daha da güçlendiren OpenAI, kasalarına 10 milyon dolar aktaran vizyon sahibi bir Süper Hizalama hibe programının kurulmasında aktif adımlar attı. Akademik laboratuvarlar, kar amacı gütmeyen kuruluşlar ve bireysel araştırmacılar için 100.000 ila 2 milyon dolar arasında değişen tahsisatlar bekleniyor. Buna ek olarak firma, lisansüstü akademisyenler için bir yıllık 150.000 ABD doları tutarında burs da ayırdı ve araştırma fonu ve burslarını karşılamak için fonları iki bölüme ayırdı.

Cesaret verici bir açıklama olarak OpenAI açık fikirli bir politika sergiliyor; araştırmacılardan gelen başvuruları memnuniyetle karşılıyor ve bu da şirketin kapsayıcılık ve yeni bakış açılarını teşvik etme ahlakının bir kanıtı.

İstekli başvuru sahiplerinin yolunu açan OpenAI, başvuruları 18 Şubat'a kadar açık tutacak ve başvuru kapanış tarihinden itibaren bir ay içinde başvuru sahiplerine geri dönmeyi hedefliyor.

Yeni hibe girişimi, OpenAI Temmuz ayında açıklanan daha geniş Süper Hizalama Projesinin ardından geliyor. Bu iddialı projenin bir parçası olarak firma, şirket içi yeni bir ekip kurdu ve önümüzdeki dört yıl için işleme kapasitesinin %20'sini bu zorluğun üstesinden gelme sözü verdi. Kapsamlı hedef: Bir insanın hizalama araştırma yeteneğini gerçekçi bir şekilde kopyalayan süper akıllı bir sistem geliştirmek.