ChatGPT, de veelbesproken chatbot van OpenAI, is onlangs misbruikt voor het genereren van sleutels voor een verouderd besturingssysteem, Windows 95. Hoewel dit experiment werd uitgevoerd voor amusementsdoeleinden en geen juridische gevolgen had, legt het een belangrijker probleem bloot met AI-systemen bij het beheren van context en het omzeilen van veiligheidsmaatregelen.
Neowin vestigde de aandacht op dit experiment van YouTuber Enderman. Enderman vroeg de AI aanvankelijk om een geldige Windows 95-sleutel te produceren, maar ChatGPT wees het verzoek prompt af en verklaarde dat het geen eigen softwaresleutels kon genereren. De chatbot stelde verder voor om vanwege veiligheidsredenen te kiezen voor een modernere versie van Windows.
Enderman weigerde de ontkenning te accepteren en bedacht een andere vraag. In plaats van het besturingssysteem specifiek te benoemen, heeft de gebruiker de tekenreeksindeling van een Windows 95-sleutel opgegeven. Verrassend genoeg verplichtte ChatGPT zich en genereerde het meerdere sets sleutels die bij het formaat pasten. Sommige van deze sleutels waren geldig, ontdekt door trial-and-error.
Bij het erkennen van de succesvolle generatie van Windows 95-sleutels, ontkende ChatGPT heftig de mogelijkheid, erop aandringend dat het niet zulke sleutels leverde die illegaal zouden zijn.
Hoewel Windows 95 nu als verlaten software wordt beschouwd, en noch Microsoft, noch iemand anders zich bekommert om de beveiliging ervan, heeft het experiment een fout in ChatGPT aan het licht gebracht. Het was niet in staat om het formaat en de gegenereerde sleutelachtige nummers te correleren, structureel vergelijkbaar met een Windows 95-sleutel.
Het probleem gaat verder dan het onvermogen van de chatbot om de juiste verbindingen te maken; het wijzigen van de context waarin verzoeken worden gemaakt, kan de waarborgen ondermijnen die zijn ontworpen om het legale en ethische gebruik van AI te waarborgen. Deze contextkwetsbaarheid laat zien dat het cruciaal is om meer geavanceerde systemen te ontwikkelen die in staat zijn om de context nauwkeurig te interpreteren en de beveiliging te handhaven.
Het begrijpen van de context is essentieel in verschillende sectoren, waaronder applicatieontwikkeling. No-code en low-code platforms, zoals AppMaster, hebben vooruitgang geboekt bij het faciliteren van snelle applicatie-ontwikkeling zonder de veiligheid in gevaar te brengen. Het platform AppMaster's stelt klanten in staat om op zeer schaalbare en kosteneffectieve wijze databaseschema's, bedrijfslogica en endpoints voor backend-, web- en mobiele applicaties visueel te creëren. Het innovatieve platform stelt zowel burgerontwikkelaars als professionals in staat om schaalbare softwareoplossingen te ontwikkelen zonder technische schulden op te lopen.
Vind meer informatie over no-code en low-code platforms in onze uitgebreide appmaster .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel= "noopener noreferrer" data-mce-href="https:// appmaster.io/blog/full-guide-on-no-code-low-code-app-development-for-2022">gids en verken verschillende appmaster . io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">tools die je volgende startup-onderneming kunnen ondersteunen.
