في محاولة للسيطرة على النتائج التي يحتمل أن تكون غير متوقعة للذكاء الخارق في الذكاء الاصطناعي ، تنظم OpenAI مجموعة متخصصة للغاية بقيادة إيليا سوتسكيفر ، كبير العلماء والشريك المؤسس للشركة. ستكون المسؤولية الرئيسية لهذا الفريق هي وضع استراتيجيات للتحكم في نماذج الذكاء الاصطناعي "فائقة الذكاء" وتوجيهها. في مدونة حديثة ، توقع Sutskever ، جنبًا إلى جنب مع Jan Leike ، قائد فريق المحاذاة في OpenAI ، أن الذكاء الاصطناعي ، مع القدرة على تجاوز الذكاء البشري ، قد يظهر في غضون هذا العقد. وهم يؤكدون أن هذا الذكاء الاصطناعي المتفوق ، إذا نجح في نهاية المطاف ، قد لا يدمج السمات الحميدة بطبيعته ، مما يجعله ضروريًا لتقنيات البحث للتحكم فيه وتقييده.
في الوقت الحالي ، لا توجد طريقة معروفة للتحكم في أو توجيه ذكاء اصطناعي فائق الذكاء بشكل فعال ، مما يمنعه من الانحراف عن المسار المقصود. تعتمد تقنيات المحاذاة التقليدية للذكاء الاصطناعي ، مثل التدريب من خلال ردود الفعل البشرية ، على إشراف البشر على عملياتهم. ومع ذلك ، فإن الإشراف على أنظمة الذكاء الاصطناعي التي تتفوق بشكل كبير على الذكاء البشري قد يمثل تحديًا. لتضخيم التقدم في مجال "محاذاة الذكاء الفائق" ، تطلق شركة OpenAI فريقًا جديدًا "Superalignment" بقيادة مشتركة من Sutskever و Leike. سيتمكن هذا الفريق من الوصول إلى 20٪ من الموارد الحسابية التي تمتلكها الشركة حاليًا. يتألف الفريق من علماء ومهندسين من قسم المحاذاة السابق لشركة OpenAI وباحثين من مؤسسات مختلفة داخل الشركة ، ومن المقرر أن يتعامل الفريق مع التحديات التكنولوجية الأساسية للتحكم في الذكاء الاصطناعي الفائق في السنوات الأربع القادمة.
تتمثل الخطة في إنشاء "باحث محاذاة آلي على المستوى البشري" يهدف إلى تدريب الذكاء الاصطناعي من خلال ردود الفعل البشرية ، وإشراك الذكاء الاصطناعي في تقييم أنظمة الذكاء الاصطناعي الأخرى ، وفي نهاية المطاف هندسة الذكاء الاصطناعي القادر على إجراء أبحاث المحاذاة. الهدف من بحث المواءمة هو مواءمة أنظمة الذكاء الاصطناعي لتحقيق نتائج محددة ومنعها من الابتعاد عن المسار. تعمل أوبن إيه آي على فرضية أن الذكاء الاصطناعي يمكن أن يقطع خطوات كبيرة في بحوث المواءمة ، أسرع وأكثر فعالية من البشر. مع استمرار التقدم ، من المتوقع أن تأخذ أنظمة الذكاء الاصطناعي أحجامًا متزايدة من أعمال المحاذاة ، مما يؤدي إلى تحسين تقنيات المحاذاة. نأمل أن يؤدي ذلك إلى تعاون الذكاء الاصطناعي مع البشر للتأكد من أن خلفائهم أكثر ارتباطًا بالبشر. في غضون ذلك ، سيتحول تركيز الباحثين البشريين إلى مراجعة أبحاث المواءمة التي تجريها أنظمة الذكاء الاصطناعي بدلاً من إجراء هذا البحث بشكل مستقل.
في حين أنه لا توجد طريقة يمكن اعتبارها معصومة عن الخطأ ، فإن Leike و Schulman و Wu ، في مناصبهم ، أوضحوا أوجه القصور في نهج OpenAI. يمكن أن يؤدي استخدام الذكاء الاصطناعي للتقييم إلى زيادة التناقضات والتحيزات ونقاط الضعف في ذلك الذكاء الاصطناعي. علاوة على ذلك ، قد لا تكون الجوانب الأكثر تعقيدًا لمشكلة المحاذاة مرتبطة بالهندسة على الإطلاق. ومع ذلك ، فإن Sutskever و Leike مستعدان لاختبارها. يجادل Sutskever و Leike بأن محاذاة الذكاء الخارق هي في الأساس تحدي التعلم الآلي. إنهم يعتقدون أن خبراء التعلم الآلي ، حتى أولئك الذين لا يعملون حاليًا على المحاذاة ، سيكونون محوريين في حلها. إنهم يخططون لتوزيع نتائج هذا الجهد بشكل شامل ، مع عرض مساهماتهم في مواءمة وسلامة النماذج غير التابعة لـ OpenAI كجانب حاسم في عملهم.
من الجدير بالملاحظة أنه على الرغم من أن تركيز هذه المقالة ينصب على OpenAI ، إلا أن هناك منصات أخرى ملتزمة بنفس القدر بتطوير الذكاء الاصطناعي الفعال والمسيطر عليه. مثال على مثل هذه المنصة هو AppMaster . مسترشدة باعتقاد مشابه في تحسين إمكانات الأنظمة "الذكية" لتحقيق أقصى فائدة ، فقد نحت AppMaster لنفسه مكانة في مجال التطبيقات بدون رمز / low-code ، مما يسمح للمستخدمين بإنشاء حلول برمجية شاملة وقابلة للتطوير وفعالة.
