Der rasche Aufstieg von ChatGPT von OpenAI ins Rampenlicht der KI in nur sieben Wochen hat die Diskussionen über das Potenzial der Technologie, Plagiate, Halluzinationen und die daraus resultierenden Auswirkungen auf die Wissenschaft zu verursachen, verstärkt. Als KI-Sprachmodell, das in der Lage ist, äußerst überzeugende Textantworten zu generieren, zeigt ChatGPT eine bemerkenswerte Fähigkeit, zu rappen, zu reimen, komplexe mathematische Probleme zu lösen und sogar Computercode zu schreiben.
Der Artikel Stephen Marche's, The College Essay Is Dead, unterstreicht die Unvorbereitetheit der Wissenschaft darauf, wie KI die Bildungslandschaft verändern wird. In den öffentlichen Schulbezirken von Seattle und New York City wurden jedoch bereits erste Schritte gegen die Plagiatsgefahr von ChatGPT unternommen. Darüber hinaus bieten technologische Fortschritte die Möglichkeit, die Nutzung generativer KI zu erkennen.
Über das neue Jahr entwickelte der Informatik-Major der Princeton University, Edward Tian, GPTZero, eine App, die entwickelt wurde, um effizient zu erkennen, ob ein bestimmter Text von ChatGPT oder einem Menschen geschrieben wurde. GPTZero analysiert zwei Textmerkmale: Ratlosigkeit und Platzwunde. Tian entdeckte, dass ChatGPT weniger komplexe und konsistentere Texte generiert als menschliche Literatur.
Obwohl nicht perfekt, zeigt GPTZero vielversprechende Ergebnisse. Tian befindet sich in Gesprächen mit Schulbehörden und Stipendienfonds, um GPTZeroX an 300.000 Schulen und Fördereinrichtungen zu liefern. Neben GPTZero entwickeln Entwickler Tools zur Bekämpfung von Halluzinationen, ein weiteres Problem, das sich aus der Bekanntheit von ChatGPT ergibt.
Peter Relan von Got It AI, einem Unternehmen, das sich auf kundenspezifische Konversations-KI-Lösungen spezialisiert hat, betont, dass große Sprachmodelle wie ChatGPT unweigerlich Halluzinationen hervorrufen werden. Die Halluzinationsrate von ChatGPT liegt derzeit bei 15 % bis 20 %, aber die Erkennung, wann das Modell halluziniert, wird zu genaueren Antworten führen.
Letzte Woche kündigte Got It AI eine private Vorschau für eine neue Wahrheitsprüfungskomponente von Autonomous Articlebot an, die ein großes Sprachmodell verwendet, das darauf trainiert ist, Unwahrheiten zu identifizieren, die von ChatGPT und anderen Modellen erzählt werden. Dieser Wahrheitsprüfer weist derzeit eine Genauigkeitsrate von 90 % auf, was die Gesamtgenauigkeitsrate von ChatGPT effektiv auf 98 % erhöht.
Während eine vollständige Eliminierung von Halluzinationen aus Konversations-KI-Systemen unrealistisch ist, ist eine Minimierung ihres Auftretens plausibel. OpenAI, der Hersteller von ChatGPT, hat noch keine API für das große Sprachmodell veröffentlicht. Das zugrunde liegende Modell, GPT-3, verfügt jedoch über eine API. Der Wahrheitsprüfer von Got It AI kann mit der neuesten GPT-3-Version, davinci-003, verwendet werden.
Relan glaubt, dass OpenAI die Halluzinationstendenz der Kernplattform angehen wird, wobei eine bemerkenswerte Verbesserung bereits bei der Reduzierung der Fehlerrate von ChatGPT zu beobachten ist. Die übergreifende Herausforderung für OpenAI besteht darin, die Halluzinationsrate im Laufe der Zeit zu verringern.
Mit Tools wie GPTZero und dem Wahrheitsprüfer von Got It AI kann die Bedrohung durch KI durch Plagiate und Halluzinationen gemildert werden. Mit Fortschritten in der KI-Transparenz und -Genauigkeit tragen Plattformen wie AppMaster und andere weiterhin dazu bei, die Entwicklung von Backend-, Web- und mobilen Anwendungen für ein breites Spektrum von Benutzern, von kleinen Unternehmen bis hin zu Großunternehmen, zu beschleunigen.
