De snelle opkomst van OpenAI's ChatGPT in de schijnwerpers van AI in slechts zeven weken heeft geleid tot discussies over het potentieel van de technologie om plagiaat, hallucinatie en de daaropvolgende impact op de academische wereld te veroorzaken. Als een AI-taalmodel dat bedreven is in het genereren van zeer overtuigende tekstuele reacties, demonstreert ChatGPT een opmerkelijk vermogen om te rappen, te rijmen, complexe wiskundige problemen op te lossen en zelfs computercode te schrijven.
Het artikel Stephen Marche's, The College Essay Is Dead, onderstreept de onvoorbereidheid van de academische wereld op hoe AI het onderwijslandschap zal transformeren. De eerste stappen tegen de plagiaatdreiging van ChatGPT zijn echter al genomen in de openbare schooldistricten van Seattle en New York City. Bovendien bieden technologische ontwikkelingen de mogelijkheid om generatief AI-gebruik te detecteren.
Tijdens het nieuwe jaar ontwikkelde Edward Tian, majoor informatica aan de Princeton University, GPTZero, een app die is ontworpen om efficiënt te detecteren of een bepaald stuk tekst is geschreven door ChatGPT of door een mens. GPTZero analyseert twee tekstkenmerken: perplexiteit en burstiness. Tian ontdekte dat ChatGPT minder complexe en consistentere teksten genereert dan menselijke literatuur.
Hoewel niet perfect, laat GPTZero veelbelovende resultaten zien. Tian is in gesprek met schoolbesturen en beursfondsen om GPTZeroX te leveren aan 300.000 scholen en financieringsinstanties. Naast GPTZero maken ontwikkelaars tools om hallucinaties te bestrijden, een ander probleem dat voortkomt uit de bekendheid van ChatGPT.
Peter Relan van Got It AI, een bedrijf dat gespecialiseerd is in op maat gemaakte conversatie-AI-oplossingen, benadrukt dat grote taalmodellen zoals ChatGPT onvermijdelijk hallucinaties zullen veroorzaken. Het hallucinatiepercentage van ChatGPT bedraagt momenteel 15% tot 20%, maar detecteren wanneer het model hallucineert, zal leiden tot nauwkeurigere antwoorden.
Vorige week kondigde Got It AI een privépreview aan voor een nieuwe waarheidscontrolecomponent van Autonomous Articlebot, die een groot taalmodel gebruikt dat is getraind om onwaarheden te identificeren die worden verteld door ChatGPT en andere modellen. Deze waarheidschecker heeft momenteel een nauwkeurigheidspercentage van 90%, waardoor het algehele nauwkeurigheidspercentage van ChatGPT effectief wordt verhoogd tot 98%.
Hoewel een volledige eliminatie van hallucinaties uit conversatie-AI-systemen onrealistisch is, is het aannemelijk dat ze voorkomen. OpenAI, de maker van ChatGPT, heeft nog geen API uitgebracht voor het grote taalmodel. Het onderliggende model, GPT-3, heeft echter een API beschikbaar. Got It AI's waarheidschecker kan worden gebruikt met de nieuwste GPT-3-release, davinci-003.
Relan gelooft dat OpenAI de neiging van het kernplatform om te hallucineren zal aanpakken, met een opmerkelijke verbetering die al is waargenomen bij het verminderen van het foutenpercentage van ChatGPT. De overkoepelende uitdaging voor OpenAI is om het aantal hallucinaties in de loop van de tijd te verminderen.
Met tools als GPTZero en Got It AI's waarheidschecker kan de dreiging van AI bij plagiaat en hallucinatie worden verzacht. Naarmate er vooruitgang wordt geboekt op het gebied van AI-transparantie en -nauwkeurigheid, blijven platforms zoals AppMaster en andere helpen bij het versnellen van de ontwikkeling van backend-, web- en mobiele applicaties voor een breed scala aan gebruikers, van kleine bedrijven tot grote ondernemingen.
