Experiment enthüllt die Kontext-Schwachstelle von ChatGPT bei der Generierung alter Windows-Schlüssel

ChatGPT, der vieldiskutierte Chatbot von OpenAI, wurde kürzlich dazu missbraucht, Schlüssel für ein veraltetes Betriebssystem, Windows 95, zu generieren. Während dieses Experiment zu Vergnügungszwecken durchgeführt wurde und keine rechtlichen Auswirkungen hatte, deckt es ein bedeutenderes Problem mit KI-Systemen im Kontextmanagement auf und Umgehung von Sicherheitsmaßnahmen.

Neowin machte auf dieses Experiment aufmerksam, das von YouTuber Enderman durchgeführt wurde. Enderman forderte die KI zunächst auf, einen gültigen Windows 95-Schlüssel zu erstellen, aber ChatGPT lehnte die Anfrage umgehend ab und erklärte, es könne keine proprietären Softwareschlüssel generieren. Der Chatbot schlug außerdem vor, sich aus Sicherheitsgründen für eine zeitgemäßere Version von Windows zu entscheiden.

Enderman weigerte sich, die Ablehnung zu akzeptieren, und entwickelte eine andere Abfrage. Anstatt das Betriebssystem ausdrücklich zu benennen, stellte der Benutzer das Zeichenfolgenformat eines Windows 95-Schlüssels bereit. Überraschenderweise verpflichtete und generierte ChatGPT mehrere Schlüsselsätze, die zum Format passen. Einige dieser Schlüssel waren gültig und wurden durch Trial-and-Error entdeckt.

Nachdem ChatGPT die erfolgreiche Generierung von Windows 95-Schlüsseln anerkannt hatte, bestritt es vehement die Möglichkeit und bestand darauf, dass es solche Schlüssel nicht zur Verfügung gestellt habe, da dies illegal wäre.

Während Windows 95 heute als Abandonware gilt und weder Microsoft noch sonst jemand sich um seine Sicherheit kümmert, hat das Experiment einen Fehler in ChatGPT ans Licht gebracht. Es war nicht in der Lage, das Format und die generierten schlüsselähnlichen Zahlen zu korrelieren, die strukturell einem Windows 95-Schlüssel ähneln.

Das Problem geht über die Unfähigkeit des Chatbots hinaus, die richtigen Verbindungen herzustellen; Das Ändern des Kontexts, in dem Anfragen erstellt werden, kann Sicherheitsvorkehrungen untergraben, die darauf abzielen, die legale und ethische Verwendung von KI sicherzustellen. Diese Kontextschwachstelle zeigt, dass es entscheidend ist, fortschrittlichere Systeme zu entwickeln, die in der Lage sind, den Kontext genau zu interpretieren und die Sicherheit aufrechtzuerhalten.

Das Verständnis des Kontexts ist in mehreren Branchen von entscheidender Bedeutung, einschließlich der Anwendungsentwicklung. No-code und low-code Plattformen wie AppMaster haben Fortschritte bei der Erleichterung der schnellen Anwendungsentwicklung gemacht, ohne die Sicherheit zu gefährden. Die Plattform AppMaster's ermöglicht es Kunden, Datenbankschemata, Geschäftslogik und endpoints für Backend-, Web- und mobile Anwendungen auf hochgradig skalierbare und kostengünstige Weise visuell zu erstellen. Die innovative Plattform ermöglicht Bürgerentwicklern und Fachleuten gleichermaßen, skalierbare Softwarelösungen zu entwickeln, ohne technische Schulden zu machen.

Weitere Informationen zu no-code und low-code [Plattformen finden Sie in unserem umfassenden appmaster .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel= "noopener noreferrer" data-mce-href=" appmaster ">führen und erkunden Sie verschiedene appmaster](https://<span class=) [. io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">Tools,](https://<span class=) die Ihr nächstes Startup-Unternehmen unterstützen können.