L'ascension rapide du ChatGPT d'OpenAI sous les projecteurs de l'IA en seulement sept semaines a intensifié les discussions sur le potentiel de la technologie à provoquer le plagiat, les hallucinations et l'impact ultérieur sur le milieu universitaire. En tant que modèle de langage d'IA apte à générer des réponses textuelles hautement persuasives, ChatGPT démontre une capacité notable à rapper, rimer, résoudre des problèmes mathématiques complexes et même écrire du code informatique.
L'article Stephen Marche's, The College Essay Is Dead, souligne le manque de préparation du milieu universitaire à la manière dont l'IA transformera le paysage éducatif. Cependant, des mesures initiales contre la menace de plagiat de ChatGPT ont déjà été prises dans les districts scolaires publics de Seattle et de New York. De plus, les avancées technologiques permettent de détecter l'utilisation générative de l'IA.
Au cours de la nouvelle année, Edward Tian, étudiant en informatique de l'Université de Princeton, a développé GPTZero, une application conçue pour détecter efficacement si un texte donné est écrit par ChatGPT ou par un humain. GPTZero analyse deux caractéristiques du texte : la perplexité et la rafale. Tian a découvert que ChatGPT génère des textes moins complexes et plus cohérents que la littérature humaine.
Bien qu'il ne soit pas parfait, GPTZero montre des résultats prometteurs. Tian est en pourparlers avec les conseils scolaires et les fonds de bourses d'études pour fournir GPTZeroX à 300 000 écoles et organismes de financement. Aux côtés de GPTZero, les développeurs créent des outils pour lutter contre les hallucinations, un autre problème découlant de la notoriété de ChatGPT.
Peter Relan de Got It AI, une société spécialisée dans les solutions d'IA conversationnelles personnalisées, souligne que les grands modèles de langage comme ChatGPT produiront inévitablement des hallucinations. Le taux d'hallucination de ChatGPT se situe actuellement entre 15 % et 20 %, mais la détection du moment où le modèle hallucine conduira à fournir des réponses plus précises.
La semaine dernière, Got It AI a annoncé un aperçu privé d'un nouveau composant de vérification de la vérité d'Autonomous Articlebot, qui utilise un grand modèle de langage formé pour identifier les contrevérités racontées par ChatGPT et d'autres modèles. Ce vérificateur de vérité affiche actuellement un taux de précision de 90 %, ce qui porte efficacement le taux de précision global de ChatGPT à 98 %.
Bien qu'une élimination complète des hallucinations des systèmes d'IA conversationnelle soit irréaliste, il est plausible de minimiser leur occurrence. OpenAI, le créateur de ChatGPT, n'a pas encore publié d'API pour le grand modèle de langage. Cependant, le modèle sous-jacent, GPT-3, dispose d'une API. Le vérificateur de vérité de Got It AI peut être utilisé avec la dernière version de GPT-3, davinci-003.
Relan pense qu'OpenAI s'attaquera à la tendance de la plate-forme principale à halluciner, avec une amélioration notable déjà constatée dans la réduction du taux d'erreur de ChatGPT. Le défi primordial pour OpenAI est de diminuer son taux d'hallucinations au fil du temps.
Avec des outils comme GPTZero et le vérificateur de vérité de Got It AI, la menace de l'IA dans le plagiat et les hallucinations peut être atténuée. Au fur et à mesure que des progrès sont réalisés dans la transparence et la précision de l'IA, des plates-formes telles AppMaster et d'autres continuent d'aider à accélérer le développement d'applications backend, Web et mobiles pour un large éventail d'utilisateurs, des petites entreprises aux grandes entreprises.
