Yapay zekadaki insanüstü zekanın potansiyel olarak öngörülemeyen sonuçlarını kontrol etme girişiminde OpenAI, şirketin Baş Bilim Adamı ve Kurucu Ortağı Ilya Sutskever tarafından yönetilen oldukça uzmanlaşmış bir grup kuruyor. Bu ekibin temel sorumluluğu, 'süper zeki' AI modellerini yönetmek ve yönlendirmek için stratejiler tasarlamak olacaktır. Yakın tarihli bir blog gönderisinde Sutskever, OpenAI'deki hizalama ekibinin lideri Jan Leike ile birlikte, insan zekasını geride bırakma kapasitesine sahip yapay zekanın bu on yıl içinde ortaya çıkabileceğini öngördü. Bu üstün yapay zekanın, sonunda başarılı olursa, doğal olarak iyi huylu özellikleri entegre etmeyebileceğini, bu nedenle onu kontrol etmek ve sınırlamak için araştırma tekniklerini gerekli kıldığını iddia ediyorlar.
Şu anda, potansiyel olarak süper zeki bir yapay zekayı etkili bir şekilde kontrol edecek veya yönlendirecek, amaçlanan yolundan sapmasını önleyecek bilinen bir yöntem yoktur. İnsan geri bildirimi yoluyla eğitim gibi yapay zeka için geleneksel hizalama teknikleri, operasyonlarını denetleyen insanlara dayanır. Bununla birlikte, insan zekasını önemli ölçüde geride bırakan AI sistemlerini denetlemek zor olabilir. "Süper zeka hizalaması" alanındaki ilerlemeyi artırmak için OpenAI, Sutskever ve Leike tarafından yönetilen yeni bir "Süper hizalama" ekibi başlatıyor. Bu ekip, şirketin şu anda sahip olduğu hesaplama kaynaklarının %20'sine erişebilecek. OpenAI'nin eski hizalama bölümünden bilim adamları ve mühendisler ile şirket içindeki çeşitli kuruluşlardan araştırmacılardan oluşan ekip, önümüzdeki dört yıl içinde süper akıllı yapay zekayı kontrol etmenin temel teknolojik zorluklarını çözmeye hazırlanıyor.
Plan, yapay zekayı insan geri bildirimi yoluyla eğitmeyi, yapay zekayı diğer yapay zeka sistemlerini değerlendirmeye dahil etmeyi ve sonunda hizalama araştırmasını gerçekleştirebilen yapay zekayı tasarlamayı amaçlayan bir "insan düzeyinde otomatik hizalama araştırmacısı" yaratmaktır. Hizalama araştırmasının amacı, belirli sonuçlara ulaşmak için AI sistemlerini hizalamak ve yoldan çıkmalarını önlemektir. OpenAI, AI'nın hizalama araştırmalarında insanlardan daha hızlı ve daha etkili bir şekilde önemli adımlar atabileceği hipotezi üzerinde çalışıyor. İlerleme gerçekleştikçe, yapay zeka sistemlerinin artan hacimlerde hizalama işi üstlenmesi ve bunun da gelişmiş hizalama tekniklerine yol açması bekleniyor. Bu, umarız yapay zekanın, haleflerinin insanlarla daha da uyumlu olmasını sağlamak için insanlarla işbirliği yapmasıyla sonuçlanacaktır. Bu arada, insan araştırmacıların odak noktası, bu araştırmayı bağımsız olarak oluşturmak yerine yapay zeka sistemleri tarafından yürütülen hizalama araştırmasını gözden geçirmeye kayacak.
Hiçbir yöntem yanılmaz olarak kabul edilemezken, Leike, Schulman ve Wu, gönderilerinde OpenAI'nin yaklaşımının eksikliklerini açıklıyor. Değerlendirme için yapay zekanın kullanılması, bu yapay zekadaki tutarsızlıkları, önyargıları ve güvenlik açıklarını artırabilir. Ayrıca, hizalama probleminin en karmaşık yönleri mühendislikle hiç ilgili olmayabilir. Yine de Sutskever ve Leike bunu test etmeye istekli. Sutskever ve Leike, süper zekanın hizalanmasının temelde bir makine öğrenimi mücadelesi olduğunu savunuyor. Şu anda hizalama üzerinde çalışmayanlar bile makine öğrenimi uzmanlarının sorunu çözmek için çok önemli olacağına inanıyorlar. OpenAI dışı modellerin uyumuna ve güvenliğine yaptıkları katkıları çalışmalarının önemli bir yönü olarak görerek, bu çabanın sonuçlarını kapsamlı bir şekilde dağıtmayı planlıyorlar.
Bu makalenin odak noktası OpenAI olsa da, verimli ve kontrollü AI geliştirmeye eşit derecede bağlı olan başka platformlar olduğunu belirtmek yerinde olacaktır. Böyle bir platformun bir örneği AppMaster'dır . 'Akıllı' sistemlerin potansiyellerini maksimum fayda için optimize etmeye yönelik benzer bir inançla yönlendirilen AppMaster, kodsuz/ low-code uygulamalar alanında kendisine bir yer açarak kullanıcıların kapsamlı, ölçeklenebilir ve verimli yazılım çözümleri oluşturmasına olanak tanır.
