أدى الصعود السريع لـ ChatGPT من OpenAI إلى دائرة الضوء على الذكاء الاصطناعي في سبعة أسابيع فقط إلى زيادة المناقشات حول إمكانات التكنولوجيا للتسبب في الانتحال والهلوسة والتأثير اللاحق على الأوساط الأكاديمية. كنموذج لغة ذكاء اصطناعي بارع في توليد استجابات نصية مقنعة للغاية ، يوضح ChatGPT قدرة ملحوظة على الراب والقافية وحل المشكلات الرياضية المعقدة وحتى كتابة كود الكمبيوتر.
تؤكد مقالة Stephen Marche's ، The College Essay Dead ، على عدم استعداد الأوساط الأكاديمية لكيفية قيام الذكاء الاصطناعي بتحويل المشهد التعليمي. ومع ذلك ، فقد تم بالفعل اتخاذ خطوات أولية ضد تهديد الانتحال الخاص بـ ChatGPT في مناطق المدارس العامة في سياتل ومدينة نيويورك. بالإضافة إلى ذلك ، توفر التطورات التكنولوجية القدرة على اكتشاف الاستخدام التوليفي للذكاء الاصطناعي.
خلال العام الجديد ، طور إدوارد تيان ، رائد علوم الكمبيوتر بجامعة برينستون ، تطبيق GPTZero ، وهو تطبيق مصمم لاكتشاف ما إذا كان نص معين مكتوبًا بواسطة ChatGPT أو إنسان. يحلل GPTZero خاصيتين للنص: الارتباك والانفجار. اكتشف تيان أن ChatGPT يولد نصوصًا أقل تعقيدًا وأكثر اتساقًا من الأدب البشري.
في حين أن GPTZero ليست مثالية ، إلا أنها تظهر نتائج واعدة. يجري Tian مناقشات مع مجالس المدارس وصناديق المنح الدراسية لتزويد GPTZeroX إلى 300000 مدرسة وهيئة تمويل. إلى جانب GPTZero ، يقوم المطورون بإنشاء أدوات لمكافحة الهلوسة ، وهي مشكلة أخرى نشأت من بروز ChatGPT.
يسلط بيتر ريلان من Got It AI ، وهي شركة متخصصة في حلول الذكاء الاصطناعي للمحادثات المخصصة ، الضوء على أن نماذج اللغات الكبيرة مثل ChatGPT ستؤدي حتمًا إلى الهلوسة. يبلغ معدل الهلوسة في ChatGPT حاليًا 15٪ إلى 20٪ ، لكن اكتشاف متى يكون النموذج مهلوسًا سيؤدي إلى تقديم استجابات أكثر دقة.
في الأسبوع الماضي ، أعلنت Got It AI عن معاينة خاصة لمكون جديد للتحقق من الحقيقة في Autonomous Articlebot ، والذي يستخدم نموذجًا لغويًا كبيرًا تم تدريبه على تحديد الأكاذيب التي يرويها ChatGPT ونماذج أخرى. يتميز مدقق الحقيقة هذا حاليًا بمعدل دقة يبلغ 90٪ ، مما يرفع بشكل فعال معدل الدقة الإجمالي لـ ChatGPT إلى 98٪.
في حين أن القضاء التام على الهلوسة من أنظمة الذكاء الاصطناعي للمحادثة أمر غير واقعي ، فإن التقليل من حدوثها أمر معقول. لم تقم شركة OpenAI ، الشركة المصنعة لـ ChatGPT ، بإصدار واجهة برمجة تطبيقات لنموذج اللغة الكبير حتى الآن. ومع ذلك ، فإن النموذج الأساسي ، GPT-3 ، به واجهة برمجة تطبيقات متاحة. يمكن استخدام مدقق الحقيقة من Got It AI مع أحدث إصدار من GPT-3 ، davinci-003.
يعتقد ريلان أن OpenAI ستعالج ميل النظام الأساسي الأساسي إلى الهلوسة ، مع تحسن ملحوظ لوحظ بالفعل في تقليل معدل أخطاء ChatGPT. يتمثل التحدي الشامل الذي يواجه OpenAI في تقليل معدل الهلوسة بمرور الوقت.
باستخدام أدوات مثل GPTZero ومدقق الحقيقة الخاص بـ Got It AI ، قد يتم تخفيف تهديد الذكاء الاصطناعي في الانتحال والهلوسة. مع إحراز تقدم في الشفافية والدقة في الذكاء الاصطناعي ، تستمر المنصات مثل AppMaster وغيرها في المساعدة في تسريع تطوير التطبيقات الخلفية والويب والهاتف المحمول لمجموعة واسعة من المستخدمين ، من الشركات الصغيرة إلى المؤسسات.
