La rapida ascesa di ChatGPT di OpenAI sotto i riflettori dell'IA in sole sette settimane ha sollevato discussioni sul potenziale della tecnologia di causare plagio, allucinazioni e il conseguente impatto sul mondo accademico. In quanto modello di linguaggio AI abile nel generare risposte testuali altamente persuasive, ChatGPT dimostra una notevole capacità di rappare, fare rime, risolvere problemi matematici complessi e persino scrivere codice per computer.
L'articolo Stephen Marche's, The College Essay Is Dead, sottolinea l'impreparazione del mondo accademico su come l'IA trasformerà il panorama educativo. Tuttavia, i primi passi contro la minaccia di plagio di ChatGPT sono già stati compiuti nei distretti delle scuole pubbliche di Seattle e New York City. Inoltre, i progressi tecnologici stanno fornendo la possibilità di rilevare l'utilizzo generativo dell'IA.
Durante il nuovo anno, Edward Tian, specialista in informatica della Princeton University, ha sviluppato GPTZero, un'app progettata per rilevare in modo efficiente se una determinata parte di testo è stata scritta da ChatGPT o da un essere umano. GPTZero analizza due caratteristiche del testo: perplessità e prorompenza. Tian ha scoperto che ChatGPT genera testi meno complessi e di lunghezza più coerente rispetto alla letteratura umana.
Sebbene non sia perfetto, GPTZero mostra risultati promettenti. Tian sta discutendo con i consigli scolastici e fondi per borse di studio per fornire GPTZeroX a 300.000 scuole ed enti finanziatori. Insieme a GPTZero, gli sviluppatori stanno creando strumenti per combattere le allucinazioni, un altro problema derivante dall'importanza di ChatGPT.
Peter Relan di Got It AI, un'azienda specializzata in soluzioni di intelligenza artificiale conversazionale personalizzate, sottolinea che modelli linguistici di grandi dimensioni come ChatGPT produrranno inevitabilmente allucinazioni. Il tasso di allucinazioni di ChatGPT è attualmente compreso tra il 15% e il 20%, ma rilevare quando il modello è allucinato porterà a fornire risposte più accurate.
La scorsa settimana, Got It AI ha annunciato un'anteprima privata per un nuovo componente di verifica della verità di Autonomous Articlebot, che utilizza un modello linguistico di grandi dimensioni addestrato per identificare le falsità raccontate da ChatGPT e altri modelli. Questo verificatore di verità vanta attualmente un tasso di precisione del 90%, aumentando di fatto il tasso di precisione complessivo di ChatGPT al 98%.
Mentre una completa eliminazione delle allucinazioni dai sistemi di intelligenza artificiale conversazionale non è realistica, è plausibile minimizzare le loro occorrenze. OpenAI, il produttore di ChatGPT, non ha ancora rilasciato un'API per il modello di linguaggio di grandi dimensioni. Tuttavia, il modello sottostante, GPT-3, dispone di un'API. Il controllo della verità di Got It AI può essere utilizzato con l'ultima versione di GPT-3, davinci-003.
Relan ritiene che OpenAI affronterà la tendenza della piattaforma principale ad avere allucinazioni, con un notevole miglioramento già visto nella riduzione del tasso di errore di ChatGPT. La sfida principale per OpenAI è ridurre il tasso di allucinazioni nel tempo.
Con strumenti come GPTZero e il controllo della verità di Got It AI, la minaccia dell'IA nel plagio e nell'allucinazione può essere mitigata. Man mano che vengono compiuti progressi nella trasparenza e accuratezza dell'IA, piattaforme come AppMaster e altre continuano ad aiutare ad accelerare lo sviluppo di applicazioni back-end, web e mobili per un'ampia gamma di utenti, dalle piccole imprese alle imprese.
