実験により、古い Windows キー生成による ChatGPT のコンテキストの脆弱性が明らかになりました

OpenAI の話題のチャットボットである ChatGPT は、最近、廃止されたオペレーティング システムである Windows 95 のキーを生成するために悪用されました。この実験は娯楽目的で行われ、法的な影響はありませんでしたが、コンテキストの管理における AI システムのより重大な問題が明らかになりました。安全対策をバイパスします。

Neowin は、 YouTuber Enderman が行ったこの実験に注目を集めました。エンダーマンは当初、有効な Windows 95 キーを生成するよう AI に要求しましたが、ChatGPT はすぐに要求を拒否し、独自のソフトウェア キーを生成できないと述べました。チャットボットはさらに、セキュリティ上の理由から、より最新のバージョンの Windows を選択することを提案しました。

否定を受け入れることを拒否したエンダーマンは、別のクエリを考案しました。 OS を具体的に指定する代わりに、ユーザーは Windows 95 キーの文字列形式を指定しました。驚くべきことに、ChatGPT は、形式に適合する複数のキー セットを義務付けて生成しました。これらのキーの一部は有効であり、試行錯誤によって発見されました。

Windows 95 キーの生成に成功したことを認めた後、ChatGPT はその可能性を激しく否定し、そのようなキーは違法であるため提供していないと主張しました。

Windows 95 は現在、放棄されたソフトウェアと見なされており、Microsoft も他の誰もそのセキュリティを気にかけていませんが、実験により ChatGPT の欠陥が明らかになりました。 Windows 95 のキーと構造的に似ている、生成されたキーのような番号とフォーマットを関連付けることができませんでした。

この問題は、チャットボットが適切な接続を確立できないことにとどまりません。リクエストが作成されるコンテキストを変更すると、AI の合法的および倫理的な使用を確保するために設計された保護手段が損なわれる可能性があります。このコンテキストの脆弱性は、コンテキストを正確に解釈してセキュリティを維持できる、より高度なシステムを開発することが重要であることを示しています。

アプリケーション開発を含むいくつかの業界では、コンテキストを理解することが不可欠です。 AppMasterなどのNo-codeおよびlow-codeプラットフォームは、セキュリティを犠牲にすることなく迅速なアプリケーション開発を促進するという点で進歩を遂げました。 AppMaster'sプラットフォームを使用すると、クライアントは、バックエンド、Web、およびモバイル アプリケーションのデータベース スキーマ、ビジネス ロジック、およびendpoints 、非常にスケーラブルで費用対効果の高い方法で視覚的に作成できます。この革新的なプラットフォームにより、シチズン デベロッパーや専門家は、技術的負債を負うことなくスケーラブルなソフトウェア ソリューションを開発できます。

no-codeおよびlow-code [プラットフォームの詳細については、包括的な appmaster .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel= をご覧ください。 "noopener noreferrer" data-mce-href="https:// appmaster.io/blog/full-guide-on-no-code-low-code-app-development-for-2022">さまざまな appmaster をガイドして探索します](https://<span class=) [。 io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">次のスタートアップ ベンチャーをサポートできるツール。](https://<span class=)