OpenAI'nin ChatGPT'sinin yalnızca yedi hafta içinde yapay zeka spot ışığına hızlı yükselişi, teknolojinin intihal, halüsinasyona neden olma potansiyeli ve ardından akademi üzerindeki etkisi hakkındaki tartışmaları artırdı. Son derece ikna edici metinsel yanıtlar üretme konusunda becerikli bir AI dil modeli olarak ChatGPT, rap yapma, kafiye yapma, karmaşık matematik problemlerini çözme ve hatta bilgisayar kodu yazma konusunda kayda değer bir yetenek sergiliyor.
Stephen Marche's The College Essay Is Dead adlı makalesi, yapay zekanın eğitim ortamını nasıl değiştireceği konusunda akademi dünyasının hazırlıksızlığının altını çiziyor. Ancak, ChatGPT'nin intihal tehdidine karşı ilk adımlar Seattle ve New York City devlet okulu bölgelerinde atılmıştır. Ek olarak, teknolojik gelişmeler üretken AI kullanımını tespit etme yeteneği sağlıyor.
Yeni Yıl boyunca, Princeton Üniversitesi bilgisayar bilimi bölümü Edward Tian, belirli bir metnin ChatGPT tarafından mı yoksa bir insan tarafından mı yazıldığını verimli bir şekilde tespit etmek için tasarlanmış bir uygulama olan GPTZero'yu geliştirdi. GPTZero iki metin özelliğini analiz eder: şaşkınlık ve patlama. Tian, ChatGPT'nin insan literatürüne göre daha az karmaşık ve daha tutarlı uzunlukta metinler ürettiğini keşfetti.
Mükemmel olmasa da, GPTZero umut verici sonuçlar gösteriyor. Tian, 300.000 okul ve finansman kuruluşuna GPTZeroX tedarik etmek için okul kurulları ve burs fonlarıyla görüşmelerde bulunuyor. Geliştiriciler, GPTZero'nun yanı sıra, ChatGPT'nin öne çıkmasından kaynaklanan başka bir sorun olan halüsinasyonlarla mücadele etmek için araçlar yaratıyor.
Özel konuşmalı yapay zeka çözümlerinde uzmanlaşmış bir şirket olan Got It AI'dan Peter Relan, ChatGPT gibi büyük dil modellerinin kaçınılmaz olarak halüsinasyonlar üreteceğinin altını çiziyor. ChatGPT'nin halüsinasyon oranı şu anda %15 ila %20 arasındadır, ancak modelin halüsinasyon gördüğünü tespit etmek daha doğru yanıtlar verilmesini sağlayacaktır.
Geçen hafta, Got It AI, Autonomous Articlebot'un ChatGPT ve diğer modeller tarafından söylenen gerçek dışı şeyleri belirlemek için eğitilmiş büyük bir dil modelini kullanan yeni bir doğruluk kontrolü bileşeni için özel bir önizleme duyurdu. Bu doğruluk denetleyici şu anda %90'lık bir doğruluk oranıyla övünüyor ve ChatGPT'nin genel doğruluk oranını etkili bir şekilde %98'e çıkarıyor.
Konuşmaya dayalı AI sistemlerinden halüsinasyonların tamamen ortadan kaldırılması gerçekçi olmasa da, oluşumlarını en aza indirmek makul. ChatGPT'nin üreticisi OpenAI, büyük dil modeli için henüz bir API yayınlamadı. Ancak, temel model olan GPT-3'ün bir API'si vardır. Anladım AI'nın doğruluk denetleyicisi, en son GPT-3 sürümü olan davinci-003 ile kullanılabilir.
Relan, OpenAI'nin çekirdek platformun halüsinasyon eğilimini ele alacağına inanıyor ve ChatGPT'nin hata oranını azaltmada halihazırda görülen kayda değer bir gelişme görülüyor. OpenAI için kapsayıcı zorluk, zaman içinde halüsinasyon oranını azaltmaktır.
GPTZero ve Got It AI'nın doğruluk denetleyicisi gibi araçlarla, AI'nın intihal ve halüsinasyon tehdidi azaltılabilir. AI şeffaflığı ve doğruluğunda ilerlemeler kaydedildikçe, AppMaster ve diğerleri gibi platformlar, küçük işletmelerden işletmelere kadar geniş bir kullanıcı yelpazesi için arka uç, web ve mobil uygulamaların geliştirilmesini hızlandırmaya yardımcı olmaya devam ediyor.
