تم مؤخرًا استغلال ChatGPT ، روبوت الدردشة الخاص بـ OpenAI الذي نوقش كثيرًا ، لإنشاء مفاتيح لنظام تشغيل قديم ، Windows 95. بينما تم إجراء هذه التجربة لأغراض التسلية ولم يكن لها تداعيات قانونية ، فإنها تكشف عن مشكلة أكثر أهمية مع أنظمة الذكاء الاصطناعي في إدارة السياق وتجاوز إجراءات السلامة.
لفت Neowin الانتباه إلى هذه التجربة التي أجراها YouTuber Enderman. طلب Enderman في البداية من منظمة العفو الدولية إنتاج مفتاح Windows 95 صالح ، لكن ChatGPT رفض الطلب على الفور ، مشيرًا إلى أنه لا يمكنه إنشاء مفاتيح برامج خاصة. اقترح chatbot كذلك اختيار إصدار أكثر حداثة من Windows لأسباب أمنية.
رفض أندرمان قبول الرفض ، ابتكر استفسارًا آخر. بدلاً من تسمية نظام التشغيل بشكل خاص ، قدم المستخدم تنسيق سلسلة مفتاح Windows 95. والمثير للدهشة أن ChatGPT ألزم وأنشأ مجموعات متعددة من المفاتيح التي تناسب التنسيق. كانت بعض هذه المفاتيح صالحة ، وتم الكشف عنها من خلال التجربة والخطأ.
عند الاعتراف بالجيل الناجح لمفاتيح Windows 95 ، نفى ChatGPT بشدة هذا الاحتمال ، وأصر على أنه لم يوفر مثل هذه المفاتيح لأنها ستكون غير قانونية.
بينما يعتبر Windows 95 برنامجًا مهجورًا الآن ، ولا تهتم Microsoft ولا أي شخص آخر بأمانه ، كشفت التجربة عن خلل في ChatGPT. لم يكن قادرًا على ربط التنسيق والأرقام الشبيهة بالمفتاح التي تم إنشاؤها ، والتي تشبه هيكليًا مفتاح Windows 95.
تمتد المشكلة إلى ما هو أبعد من عدم قدرة روبوت المحادثة على إجراء الاتصالات الصحيحة ؛ يمكن أن يؤدي تغيير السياق الذي يتم فيه إنشاء الطلبات إلى تقويض الضمانات المصممة لضمان الاستخدام القانوني والأخلاقي للذكاء الاصطناعي. تظهر ثغرة السياق هذه أنه من الضروري تطوير أنظمة أكثر تقدمًا قادرة على تفسير السياق بدقة والحفاظ على الأمن.
يعد فهم السياق أمرًا ضروريًا في العديد من الصناعات ، بما في ذلك تطوير التطبيقات. قطعت الأنظمة الأساسية No-code low-code ، مثل AppMaster ، خطوات كبيرة في تسهيل التطوير السريع للتطبيقات دون المساس بالأمان. تتيح منصة AppMaster's للعملاء إنشاء مخطط قاعدة البيانات ومنطق الأعمال endpoints بشكل مرئي للواجهة الخلفية وتطبيقات الويب والهاتف المحمول بطريقة قابلة للتطوير بدرجة عالية وفعالة من حيث التكلفة. تعمل المنصة المبتكرة على تمكين المطورين والمهنيين المواطنين على حد سواء لتطوير حلول برمجية قابلة للتطوير دون تكبد ديون تقنية.
يمكنك العثور على مزيد من المعلومات حول الأنظمة الأساسية no-code والمنصات low-code في مدير التطبيقات الشامل لدينا .io / blog / full-guide-on-no-code-low-code-app-development-for-2022 "target =" _ blank "rel = دليل "noopener noreferrer" data-mce-href = "https: // appmaster.io / blog / full-guide-on-no-code-low-code-app-development-for-2022"> واستكشف مدير تطبيقات مختلف . io / blog / top-no-code-apps-and-tools-to-help-build-your-next-startup "target =" _ blank "rel =" noopener noreferrer "data-mce-href =" https: // appmaster.io / blog / top-no-code-apps-and-tools-to-help-build-your-next-startup "> الأدوات التي يمكن أن تدعم مشروعك القادم.
