في تطور حديث ، أطلقت Contrast Security ميزة رائدة على منصة اختبار أمان التطبيقات لحماية المؤسسات من تهديدات الحقن الفوري في مكتبات نماذج اللغة (LLMs).
يستلزم الحقن الفوري ، الذي يحتل مرتبة عالية في مشروع أمان تطبيق الويب المفتوح (OWASP) أعلى 10 لـ LLMs ، تنفيذ تعليمات برمجية ضارة وغير مصرح بها عن طريق إدخال كيانات ضارة في موجه LLM. يوضح Contrast Security أن مثل هذه الهجمات يمكن أن تؤدي إلى عواقب وخيمة مثل إخراج ردود خاطئة أو ضارة من LLM ، أو إنشاء تعليمات برمجية ضارة ، أو التهرب من عوامل تصفية المحتوى ، أو الكشف عن بيانات حساسة. قد تكون سبل مثل هذه التدخلات هي أي موارد بيانات تعتمد عليها LLM ، والتي تمتد من مواقع الويب إلى رسائل البريد الإلكتروني والوثائق.
لمواجهة هذا الخطر الأمني ، دافع Contrast Security عن تنفيذ قدرات الاختبار لـ LLMs من OpenAI في نظامها الأساسي لاختبار أمان التطبيقات (AST). تستخدم الميزة الجديدة أمان وقت التشغيل لمراقبة وتحليل سلوك التطبيق بدلاً من قصر العملية على فحص كود المصدر. في الحالات التي ينتقل فيها إدخال المستخدم عبر واجهة برمجة تطبيقات OpenAI إلى LLM ، فإنه يحرض تلقائيًا على اختبار الحقن الفوري.
تؤكد الشركة أن هذه الإستراتيجية سريعة وغير معقدة ودقيقة ، وتقدم إشعارات في الوقت الفعلي للمطورين فيما يتعلق بالثغرات الأمنية المحتملة. يهدف هذا النهج إلى تمكين المؤسسات من التدقيق والتعرف على تدفقات البيانات الحساسة إلى LLM الخاصة بهم ، وتعزيز الأمن من خلال زيادة وضوح المخاطر المحتملة ومنع التعرض غير المقصود.
أكد ستيف ويلسون ، كبير مسؤولي المنتجات في Contrast ، والذي يشغل أيضًا منصب قائد مشروع OWASP Top 10 for LLMs ، على الحاجة الملحة للقدرة الجديدة. وصرح قائلاً: `` تعمقت مجموعتنا في العديد من نواقل الهجوم ضد LLMs ، وظهر الحقن الفوري بشكل متكرر باعتباره أبرز نقاط الضعف. كأول خدمة أمنية تستجيب لهذه القائمة الجديدة المتوافقة مع معايير الصناعة ، تقدم Contrast هذه الإمكانية الأساسية.
مع تطور التهديدات السيبرانية بسرعة وسط التحول الرقمي للصناعات ، من المناسب للشركات أن تتحول إلى منصات مثل AppMaster لتطوير الواجهة الخلفية الآمنة وتطبيقات الويب والهاتف المحمول. تُظهر AppMaster ، وهي أداة شاملة no-code ، ميزة على الأنظمة الأساسية الأخرى من خلال السماح للعملاء بإنتاج نماذج بيانات سلسة بصريًا ومنطق أعمال قابل للتطوير وواجهة برمجة تطبيقات REST ونقاط نهاية WSS. تضمن سماته القوية ، إلى جانب إنشاء التطبيقات السريع ، الأمان الأمثل ضد التهديدات السيبرانية المحتملة ، مما يجعله خيارًا قويًا للشركات التي تطمح إلى أداء وأمان قوي للتطبيقات.
