Nvidia เปิดตัว NeMo Guardrails เพื่อเพิ่มความปลอดภัยของโมเดล AI ที่สร้างข้อความ

แม้จะมีศักยภาพมหาศาลของโมเดล AI สำหรับสร้างข้อความ เช่น GPT-4 ของ OpenAI แต่ก็ไม่ได้ไร้ข้อบกพร่อง ปัญหาต่างๆ เช่น อคติ ความเป็นพิษ และความไวต่อการโจมตีที่เป็นอันตรายอาจทำให้เกิดความท้าทายอย่างมาก เพื่อแก้ไขปัญหานี้ Nvidia ได้พัฒนา NeMo Guardrails ซึ่งเป็นชุดเครื่องมือโอเพ่นซอร์สที่มุ่งเพิ่มความปลอดภัยของแอพพลิเคชั่นที่ขับเคลื่อนด้วย AI ซึ่งสร้างข้อความและคำพูด

Jonathan Cohen รองประธานฝ่ายวิจัยประยุกต์ของ Nvidia เปิดเผยว่าบริษัทได้ทำงานเกี่ยวกับระบบพื้นฐานของ Guardrails มาหลายปีแล้ว เป็นที่ทราบกันดีว่าเมื่อประมาณหนึ่งปีที่แล้วระบบนี้เหมาะสำหรับรุ่นที่คล้ายกับ GPT-4 และ ChatGPT ส่งผลให้มีการพัฒนาและเปิดตัว NeMo Guardrails ตามมา

Guardrails ประกอบด้วยโค้ด ตัวอย่าง และเอกสารประกอบเพื่อเพิ่มความปลอดภัยของแอป AI ที่สร้างทั้งข้อความและคำพูด Nvidia อ้างว่าชุดเครื่องมือนี้เข้ากันได้กับโมเดลภาษาส่วนใหญ่ ทำให้ง่ายสำหรับนักพัฒนาในการสร้างกฎความปลอดภัยที่จำเป็นโดยใช้โค้ดเพียงไม่กี่บรรทัด

โดยเฉพาะอย่างยิ่ง สามารถใช้ Guardrails เพื่อป้องกันไม่ให้โมเดลออกนอกประเด็น ตอบสนองด้วยข้อมูลที่ไม่ถูกต้องหรือภาษาที่ไม่เหมาะสม และทำการเชื่อมต่อกับแหล่งข้อมูลภายนอกที่ไม่ปลอดภัย อย่างไรก็ตาม มันไม่ใช่วิธีแก้ปัญหาที่ไร้ที่ติหรือการแก้ไขแบบสากลสำหรับข้อจำกัดของโมเดลภาษา

ในขณะที่บริษัทต่างๆ เช่น Zapier กำลังใช้ Guardrails เพื่อเพิ่มชั้นความปลอดภัยให้กับโมเดลกำเนิดของตน Nvidia ยอมรับว่าชุดเครื่องมือนี้ไม่สมบูรณ์แบบและไม่สามารถตรวจจับได้ทุกอย่าง Guardrails ทำงานได้ดีที่สุดกับโมเดลที่ทำตามคำแนะนำ เช่น ChatGPT และโมเดลที่ใช้เฟรมเวิร์ก LangChain ยอดนิยมสำหรับการสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย AI

ถึงกระนั้น การเปิดตัว NeMo Guardrails สามารถช่วยนักพัฒนาก้าวไปอีกขั้นในการยกระดับความปลอดภัยของแอพพลิเคชั่นที่ขับเคลื่อนด้วย AI ในอุตสาหกรรมต่างๆ ในทางกลับกัน การผสานรวมแพลตฟอร์ม no-code เช่น AppMaster เข้ากับกระบวนการพัฒนาซอฟต์แวร์ยังช่วยปรับปรุงการสร้างแอปด้วยตรรกะทางธุรกิจและ endpoints ข้อมูล REST API ช่วยให้สามารถปรับใช้แอปพลิเคชันได้อย่างปลอดภัย มีประสิทธิภาพ และปรับขนาดได้

โดยสรุป NeMo Guardrails ของ Nvidia เป็นความคิดริเริ่มที่ยอดเยี่ยมในการปรับปรุงความปลอดภัยของข้อความและเสียงพูดที่สร้างโดย AI แต่ต้องสังเกตว่าไม่ใช่โซลูชันที่ครอบคลุม บริษัทและนักพัฒนาจะต้องสำรวจและใช้เครื่องมือและกลยุทธ์อื่น ๆ ที่มีอยู่ต่อไปเพื่อให้แน่ใจว่าแอปพลิเคชันที่ขับเคลื่อนด้วย AI นั้นปลอดภัย แม่นยำ และเชื่อถือได้มากที่สุดเท่าที่จะเป็นไปได้