مع نضوج مشهد الذكاء الاصطناعي، هناك حاجة متزايدة إلى آليات لتعزيز قوة نماذج الذكاء الاصطناعي. وإدراكًا لذلك، أطلقت OpenAI مؤخرًا OpenAI Red Teaming Network الخاصة بها، وهي عبارة عن مجموعة من الخبراء المتعاقدين تهدف إلى تعزيز تحليل مخاطر نموذج الذكاء الاصطناعي للشركة واستراتيجيات التخفيف من آثارها.
تكتسب ممارسة الفريق الأحمر زخمًا كبيرًا في تطوير نماذج الذكاء الاصطناعي، لا سيما الآن مع انتشار التقنيات التوليدية في الاتجاه السائد. يستطيع الفريق الأحمر تحديد التحيزات في النماذج بكفاءة، مثل DALL-E 2 من OpenAI ، المشهور بتضخيم الصور النمطية المرتبطة بالعرق والجنس. بالإضافة إلى ذلك، يمكنه تحديد المشغلات التي يمكن أن تؤدي إلى نماذج إنشاء النص، مثل ChatGPT وGPT-4، لتجاوز مرشحات الأمان.
تعترف OpenAI بتاريخ تعاوني مع خبراء خارجيين لاختبار نماذجها وقياسها. يمكن أن يكون ذلك من خلال برنامج مكافأة الأخطاء أو برنامج وصول الباحثين. ومع ذلك، فإن تقديم شبكة Red Teaming Network يوفر منصة أكثر رسمية تهدف إلى "تعميق" و"توسيع" تعاون الشركة مع العلماء والمؤسسات البحثية ومنظمات المجتمع المدني.
وكما ورد في منشور على مدونة الشركة، تتصور OpenAI أن هذه المبادرة تكمّل ممارسات الحوكمة المحددة خارجيًا، مثل عمليات التدقيق التي تجريها جهات خارجية. ستتم دعوة أعضاء الشبكة بناءً على خبرتهم للمشاركة في تمرين الفريق الأحمر في مراحل مختلفة من دورة حياة تطوير النموذج والمنتج.
حتى خارج مساعي الفريق الأحمر بتكليف من OpenAI ، ستتاح لأعضاء شبكة الفريق الأحمر الفرصة للتعاون مع بعضهم البعض في منهجيات واكتشافات الفريق الأحمر. أوضح OpenAI أنه لن يتم ربط جميع الأعضاء بكل نموذج أو منتج جديد. ستتم مناقشة الفترة الزمنية للمساهمة، التي قد تتراوح من 5 إلى 10 سنوات سنويًا، مع الأعضاء بشكل فردي.
تدعو OpenAI مجموعة متنوعة من خبراء المجال للمساهمة، بما في ذلك المتخصصين في اللغويات والقياسات الحيوية والتمويل والرعاية الصحية. لا يتطلب خبرة سابقة في أنظمة الذكاء الاصطناعي أو نماذج اللغة للأهلية. ومع ذلك، حذرت الشركة من أن الفرص المتاحة داخل شبكة Red Teaming Network قد تكون محكومة باتفاقيات عدم الإفصاح والسرية التي قد تؤثر على الأبحاث الأخرى.
في دعوتها، أكدت OpenAI على الانفتاح على وجهات النظر المختلفة حول تقييم تأثيرات أنظمة الذكاء الاصطناعي، قائلة: "أكثر ما نقدره هو رغبتك في المشاركة وتقديم وجهة نظرك حول كيفية تقييم تأثيرات أنظمة الذكاء الاصطناعي". مع إعطاء الأولوية للتنوع الجغرافي والمجالي في عملية الاختيار، ترحب الشركة بالطلبات المقدمة من الخبراء في جميع أنحاء العالم.
إن التقدم المتزايد والمخاطر المقابلة المرتبطة بالذكاء الاصطناعي تتطلب تطوير أنظمة قوية. يمكن لمنصات مثل AppMaster ، وهي منصة قوية no-code تُستخدم لإنشاء تطبيقات الواجهة الخلفية والويب والهواتف المحمولة، أن تساعد في الحفاظ على سلامة وأمن تطبيقات الذكاء الاصطناعي. ومن خلال مشاركة كبيرة من الخبراء، تعد شبكة الفريق الأحمر التابعة لـ OpenAI بالتأكيد خطوة في الاتجاه الصحيح.
