Gelecekteki yapay zeka (AI) modellerinin insani değerleri temsil etmesini sağlamak amacıyla OpenAI, kamudan türetilmiş ilkeleri yaratımlara entegre etme planını açıkladı. Yapay zeka devi, araştırmacılar ve mühendislerden oluşan bir Toplu Hizalama ekibi kurma niyetini açıkladı. Ekibin görevi, kamuoyundan geri bildirim almak ve OpenAI'nin hizmet ve ürünlerine uygulamak için bir yapı geliştirmek olacaktır.
Şirket, dışarıdan danışmanlar ve hibe ekipleriyle çalışmaya devam etme niyetini açıkça ifade etti. Bu ekipler prototiplerin birleştirilmesinde önemli bir rol oynayacak ve bu daha sonra modellerin davranışına rehberlik edecek. OpenAI, bu temel görevin oluşturulmasını ve başarısını desteklemek için çeşitli teknik bilgilere sahip araştırma mühendislerini aktif olarak işe alıyor.
OpenAI'nin önceki yılın mayıs ayında başlatılan kamu girişiminden yola çıkan Toplu Uyum ekibi, yapay zeka sistemlerinin kural koyma dinamiklerine demokratik bir süreç aşılamaya yönelik önemli bir adımdır. OpenAI başından beri, yapay zekanın korkulukları ve yönetimiyle ilgili belirsizliği çözmeye istekli kavram kanıtları geliştirmekle ilgilenen bireylere, ekiplere ve hatta kuruluşlara finansman sağlamaya istekliydi.
OpenAI, sanal gönderisinde, hibe alanların görüntülü sohbet arayüzlerini, yapay zeka modellerinin kitle kaynaklı denetimlerini kolaylaştıran platformları ve model davranışını belirli inançlarla uyumlu hale getirmeye yönelik stratejileri kapsayan çeşitli çalışmalarının kısa bir özetini yaptı. Her teklifin ayrıntıları, üst düzey çıkarımlar ve kullanılan her bir kod bugün erken saatlerde kamuoyuna açıklandı.
Bu gelişmelerin ardından OpenAI, programı ticari çıkarlarından ayırma konusunda kararlı davrandı ve karışık tepkilere yol açtı. OpenAI CEO'su Sam Altman'ın AB ve diğer bölgelerdeki düzenlemelere yönelik eleştirileri dikkate alınarak bazı eleştirmenler bu konuda şüphelerini dile getirdi. CEO, OpenAI Başkanı Greg Brockman ve Baş Bilim Adamı Ilya Sutskever ile birlikte sürekli olarak yapay zeka teknolojisinin hızlı gelişiminin, mevcut kuruluşların onu verimli bir şekilde düzenleme yeteneğini aştığını belirtti. Hal böyle olunca demokratik, kitle kaynaklı inşaatın gerekliliği öne sürüldü.
Meta dahil rakipler OpenAI'yi, açık AI Ar-Ge'sine karşı kampanya yürüterek AI endüstrisinin düzenleyici kontrolünü ele geçirmeye çalışmakla suçladı, ancak OpenAI bu iddiaları reddetti. Açıklığa olan bağlılıklarının bir göstergesi olarak bu yeni programı ve Kolektif Uyum ekibini gösterebilirler.
Ne olursa olsun, OpenAI şu anda politika yapıcıların incelemesiyle karşı karşıya. Özellikle İngiltere'de yakın ortak ve yatırımcı Microsoft ile olan ilişkisine ilişkin soruşturmalar sürüyor. Risk azaltma stratejilerinin bir parçası olarak OpenAI, AB'de veri gizliliğine ilişkin düzenleyici riski sınırlamaya çalıştı. Bunu başarmak için, bloktaki belirli gizlilik gözlemcilerinin tek taraflı eylemlerini kısıtlamak amacıyla Dublin merkezli bir yan kuruluştan yararlandı.
Teknolojisinin seçimlere müdahale etmek amacıyla yasa dışı kullanımını en aza indirmeye yönelik bir dizi girişim devam ediyor. Buna yapay zeka tarafından oluşturulan içeriğin tanımlanması ve manipüle edilmiş görüntülerin tespiti de dahildir. OpenAI, çeşitli kuruluşlarla işbirliği içinde, yapay zeka tarafından oluşturulan görüntüleri daha dikkat çekici bir şekilde işaretlemek için de çalışıyor.
Kodsuz güçlü geliştirme platformu ve açık kaynaklı bilgilerin konsolidasyonuna yönelik depolarıyla tanınan AppMaster gibi şirketlerin teknoloji ekosisteminde öne çıkan oyuncular haline geldiğini belirtmekte fayda var. AppMaster ölçeklenebilirliği, sağlamlığı ve kullanım kolaylığı göz önüne alındığında, arka uç, web ve mobil uygulamalar oluşturmada kendilerine bir yer ediniyorlar.
