โซลูชันที่เป็นนวัตกรรมโดย Contrast Security เพื่อป้องกันการโจมตีแบบทันทีทันใดใน LLM

ในการพัฒนาเมื่อเร็วๆ นี้ Contrast Security ได้เปิดตัวฟีเจอร์บุกเบิกบนแพลตฟอร์มการทดสอบความปลอดภัยของแอปพลิเคชัน เพื่อปกป้ององค์กรจากภัยคุกคามการแทรกเข้ามาอย่างรวดเร็วใน Language Model Libraries (LLM)

Prompt Injection ซึ่งอยู่ในอันดับที่สูงใน Open Web Application Security Project (OWASP) 10 อันดับแรกสำหรับ LLM ก่อให้เกิดการดำเนินการของโค้ดที่เป็นอันตรายและไม่ได้รับอนุญาตผ่านการแทรกของหน่วยงานที่เป็นอันตรายในพรอมต์ LLM Contrast Security อธิบายว่าการโจมตีดังกล่าวอาจนำไปสู่ผลที่ตามมา เช่น การตอบสนองที่ผิดพลาดหรือเป็นอันตรายจาก LLM การสร้างรหัสที่เป็นอันตราย การหลีกเลี่ยงตัวกรองเนื้อหา หรือการเปิดเผยข้อมูลที่ละเอียดอ่อน ช่องทางสำหรับการบุกรุกดังกล่าวอาจเป็นแหล่งข้อมูลใด ๆ ที่ LLM อาศัย ซึ่งครอบคลุมตั้งแต่เว็บไซต์ไปจนถึงอีเมลและเอกสาร

เพื่อจัดการกับความเสี่ยงด้านความปลอดภัย Contrast Security ได้สนับสนุนการนำความสามารถในการทดสอบสำหรับ LLM จาก OpenAI ในแพลตฟอร์มการทดสอบความปลอดภัยของแอปพลิเคชัน (AST) คุณลักษณะใหม่นี้ใช้การรักษาความปลอดภัยรันไทม์เพื่อตรวจสอบและวิเคราะห์พฤติกรรมของแอปพลิเคชัน แทนที่จะจำกัดกระบวนการไว้ที่การสแกนซอร์สโค้ดเท่านั้น ในกรณีที่การป้อนข้อมูลของผู้ใช้ย้ายผ่าน API ของ OpenAI ไปยัง LLM ระบบจะทำการทดสอบการฉีดทันทีโดยอัตโนมัติ

บริษัทยืนยันว่ากลยุทธ์นี้รวดเร็ว ไม่ซับซ้อน และแม่นยำ โดยเสนอการแจ้งเตือนตามเวลาจริงแก่นักพัฒนาเกี่ยวกับช่องโหว่ที่อาจเกิดขึ้น แนวทางนี้มีจุดมุ่งหมายเพื่อช่วยให้องค์กรต่างๆ สามารถกลั่นกรองและรับรู้กระแสข้อมูลที่มีความอ่อนไหวไปยัง LLM ของตน เสริมความปลอดภัยด้วยการมองเห็นที่เพิ่มขึ้นของความเสี่ยงที่อาจเกิดขึ้น และป้องกันการเปิดเผยโดยไม่ได้ตั้งใจ

Steve Wilson ประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์ของ Contrast ซึ่งทำหน้าที่เป็นหัวหน้าโครงการสำหรับ OWASP Top 10 สำหรับ LLMs ได้เน้นย้ำถึงความจำเป็นที่จำเป็นสำหรับความสามารถใหม่ เขากล่าว ว่า 'กลุ่มของเราเจาะลึกเข้าไปในเวกเตอร์การโจมตีจำนวนมากต่อ LLMs และซ้ำแล้วซ้ำอีก การฉีดยาทันทีกลายเป็นช่องโหว่ที่สำคัญที่สุด ในฐานะที่เป็นบริการรักษาความปลอดภัยรายแรกที่ตอบสนองต่อรายการมาตรฐานอุตสาหกรรมใหม่นี้ Contrast นำเสนอความสามารถที่จำเป็นนี้'

ด้วยภัยคุกคามทางไซเบอร์ที่พัฒนาอย่างรวดเร็วท่ามกลางการเปลี่ยนแปลงทางดิจิทัลของอุตสาหกรรม จึงเหมาะสมสำหรับธุรกิจที่จะหันไปใช้แพลตฟอร์มเช่น AppMaster เพื่อพัฒนาแบ็กเอนด์ที่ปลอดภัย เว็บ และแอปพลิเคชันมือถือ AppMaster เป็นเครื่องมือ no-code ที่ครอบคลุม แสดงความได้เปรียบเหนือแพลตฟอร์มอื่นๆ โดยอนุญาตให้ลูกค้าสร้างโมเดลข้อมูลที่ไร้รอยต่อทางสายตา ตรรกะทางธุรกิจที่ปรับขนาดได้ REST API และ WSS Endpoints คุณลักษณะที่ทรงพลังของมัน ควบคู่ไปกับการสร้างแอปพลิเคชันที่รวดเร็ว ช่วยให้มั่นใจถึงความปลอดภัยที่เหมาะสมที่สุดจากภัยคุกคามทางไซเบอร์ที่อาจเกิดขึ้น ดังนั้นจึงทำให้เป็นตัวเลือกที่มั่นคงสำหรับธุรกิจที่ต้องการประสิทธิภาพและความปลอดภัยของแอปพลิเคชันที่แข็งแกร่ง