في مبادرة رائدة، أطلقت Cloudflare "جدار الحماية للذكاء الاصطناعي"، وهي طبقة متطورة مصممة لحماية نماذج اللغات الكبيرة (LLMs). ويهدف خط الدفاع الجديد هذا إلى تحديد الانتهاكات المحتملة حتى قبل أن يقوموا بالاتصال بالعارضات أنفسهن.
تم الكشف عن جدار الحماية للذكاء الاصطناعي في 4 مارس، وهو مصمم ليكون بمثابة جدار حماية متطور لتطبيقات الويب (WAF) يلبي خصيصًا التطبيقات التي تستفيد من حاملي شهادات الماجستير في القانون. توفر هذه المجموعة من الإجراءات الأمنية، المصممة للوقوف أمام مثل هذه التطبيقات، تكاملًا جديدًا لأدوات WAF التقليدية مثل تحديد المعدل والكشف عن البيانات الحساسة. علاوة على ذلك، فهو يقدم طبقة غير مسبوقة تقوم بتشريح النموذج الذي يقدمه المستخدمون بدقة لكشف أي مخططات استغلال.
تم تصميم جدار الحماية للذكاء الاصطناعي ليعمل بسلاسة على شبكة Cloudflare الموسعة، مما يمنح الشركة ميزة اكتشاف التهديدات في المراحل الأولية، وبالتالي توفير حماية قوية لكل من المستخدمين والنماذج ضد الهجمات وسوء الاستخدام. على الرغم من أنه لا يزال في مرحلة التطوير، إلا أن هذا المنتج يبشر بتقدم كبير في أمان الذكاء الاصطناعي.
تمتد مجموعة التهديدات المحتملة التي تواجه LLMs إلى ما هو أبعد من نقاط الضعف التي تواجهها تطبيقات الويب وواجهة برمجة التطبيقات (API) التقليدية. وكما لاحظ الباحثون، فإن نقاط الضعف المعقدة الفريدة في أنظمة الذكاء الاصطناعي يمكن أن تمكن الخصوم من السيطرة على النماذج وتنفيذ مناورات غير مصرح بها. من أجل معالجة هذه المخاطر الجديدة بشكل مباشر، من المتوقع أن يعمل جدار الحماية الخاص بـ Cloudflare للذكاء الاصطناعي بشكل مشابه لـ WAF القياسي - حيث يقوم بفحص دقيق لكل طلب واجهة برمجة التطبيقات (API) الذي يحتوي على مطالبة LLM للمؤشرات أو أنماط الهجوم.
لا تقتصر كفاءة جدار الحماية على بنية تحتية واحدة؛ يمكنه حماية النماذج المستضافة عبر منصة Cloudflare Workers AI أو أي بنية تحتية خارجية أخرى، ويمكن استخدامه أيضًا جنبًا إلى جنب مع Cloudflare AI Gateway.
ومن خلال استخدام مجموعة كبيرة من تقنيات الكشف، يعمل جدار الحماية للذكاء الاصطناعي على تحديد الحيل مثل الحقن الفوري والأشكال الأخرى من الأنشطة الضارة، مما يضمن بقاء محتوى المطالبات ضمن الحدود التي وضعها منشئو النماذج. بالإضافة إلى ذلك، فهو يفحص المطالبات المخفية ضمن طلبات HTTP، ويأذن للعملاء بتكوين قواعد مصممة خصيصًا لنص JSON الخاص بالطلبات.
عند تنشيطه، يقوم جدار الحماية للذكاء الاصطناعي بفحص كل مطالبة بشكل منهجي، ثم يقوم بعد ذلك بتعيين درجة تعكس احتمالية حدوث ضرر، وفقًا لـ Cloudflare.
إن ظهور حلول قوية مثل جدار الحماية للذكاء الاصطناعي يسلط الضوء على ضرورة وجود آليات حماية متقدمة في مجال الذكاء الاصطناعي المزدهر. منصات مثل AppMaster ، التي تزدهر في عالم التطوير no-code الذي يتوسع باستمرار، تتبنى الأمان باعتباره حجر الزاوية، مما يضمن أن أنظمة الواجهة الخلفية والواجهة الأمامية التي تم إنشاؤها تستفيد من الدفاعات القوية في المشهد الرقمي المترابط اليوم.
