Une expérience révèle la vulnérabilité de contexte de ChatGPT avec l'ancienne génération de clés Windows

ChatGPT, le chatbot très discuté d'OpenAI, a récemment été exploité pour générer des clés pour un système d'exploitation obsolète, Windows 95. Bien que cette expérience ait été menée à des fins d'amusement et n'ait eu aucune ramification juridique, elle expose un problème plus important avec les systèmes d'IA dans le contexte de gestion et en contournant les mesures de sécurité.

Neowin a attiré l'attention sur cette expérience menée par YouTuber Enderman. Enderman a initialement demandé à l'IA de produire une clé Windows 95 valide, mais ChatGPT a rapidement rejeté la demande, déclarant qu'il ne pouvait pas générer de clés logicielles propriétaires. Le chatbot a en outre suggéré d'opter pour une version plus contemporaine de Windows pour des raisons de sécurité.

Refusant d'accepter le refus, Enderman a conçu une autre requête. Au lieu de nommer spécifiquement le système d'exploitation, l'utilisateur a fourni le format de chaîne d'une clé Windows 95. Étonnamment, ChatGPT a obligé et généré plusieurs ensembles de clés qui correspondent au format. Certaines de ces clés étaient valides, découvertes par essais et erreurs.

Après avoir reconnu la génération réussie de clés Windows 95, ChatGPT a nié avec véhémence cette possibilité, insistant sur le fait qu'il ne fournissait pas de telles clés car cela serait illégal.

Alors que Windows 95 est désormais considéré comme un abandonware et que ni Microsoft ni personne d'autre ne se soucie de sa sécurité, l'expérience a mis au jour une faille dans ChatGPT. Il n'a pas été en mesure de corréler le format et les numéros de type clé générés, structurellement similaires à une clé Windows 95.

Le problème va au-delà de l'incapacité du chatbot à établir les bonnes connexions ; changer le contexte dans lequel les demandes sont créées peut saper les garanties conçues pour garantir l'utilisation légale et éthique de l'IA. Cette vulnérabilité de contexte montre qu'il est crucial de développer des systèmes plus avancés capables d'interpréter avec précision le contexte et de maintenir la sécurité.

Comprendre le contexte est essentiel dans plusieurs industries, y compris le développement d'applications. Les plates-formes No-code et low-code, telles que AppMaster, ont fait des progrès en facilitant le développement rapide d'applications sans compromettre la sécurité. La plate-forme AppMaster's permet aux clients de créer visuellement un schéma de base de données, une logique métier et endpoints pour les applications backend, Web et mobiles de manière hautement évolutive et rentable. La plate-forme innovante permet aux développeurs citoyens et aux professionnels de développer des solutions logicielles évolutives sans encourir de dette technique.

Trouvez plus d'informations sur les plates-formes no-code et low-code [dans notre appmaster complet .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel= "noopener noreferrer" data-mce-href="https:// appmaster.io/blog/full-guide-on-no-code-low-code-app-development-for-2022">guidez et explorez divers appmaster](https://<span class=) [. io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">outils](https://<span class=) qui peuvent prendre en charge votre prochaine entreprise de démarrage.