OpenAI के GPT-4 जैसे टेक्स्ट-जनरेटिंग AI मॉडल की अपार क्षमता के बावजूद, उनमें कमियाँ नहीं हैं। पूर्वाग्रह, विषाक्तता और दुर्भावनापूर्ण हमलों के प्रति संवेदनशीलता जैसे मुद्दे काफी चुनौतियां पैदा कर सकते हैं। इसे संबोधित करने के लिए, Nvidia ने NeMo Guardrails विकसित किया है, जो एक ओपन-सोर्स टूलकिट है, जिसका उद्देश्य टेक्स्ट और स्पीच उत्पन्न करने वाले AI-संचालित अनुप्रयोगों की सुरक्षा को बढ़ाना है।
एनवीडिया में एप्लाइड रिसर्च के वीपी Jonathan Cohen खुलासा किया कि कंपनी कई सालों से गार्डराइल्स की अंतर्निहित प्रणाली पर काम कर रही है। लगभग एक साल पहले यह महसूस किया गया था कि सिस्टम GPT-4 और ChatGPT जैसे मॉडल के लिए उपयुक्त होगा, जिसके परिणामस्वरूप निमो रेलिंग का विकास और बाद में रिलीज होगा।
गार्डराइल्स में एआई ऐप्स की सुरक्षा को बढ़ावा देने के लिए कोड, उदाहरण और दस्तावेज शामिल हैं जो पाठ और भाषण दोनों उत्पन्न करते हैं। एनवीडिया का दावा है कि टूलकिट अधिकांश जनरेटिव भाषा मॉडल के साथ संगत है, जिससे डेवलपर्स के लिए कोड की कुछ पंक्तियों का उपयोग करके आवश्यक सुरक्षा नियम बनाना आसान हो जाता है।
विशेष रूप से, रेलिंग का उपयोग मॉडल को विषय से भटकने, गलत जानकारी या विषाक्त भाषा के साथ प्रतिक्रिया करने और असुरक्षित बाहरी स्रोतों से संबंध बनाने से रोकने के लिए किया जा सकता है। हालांकि, यह एक दोषरहित समाधान नहीं है और न ही भाषा मॉडल की सीमाओं के लिए सार्वभौमिक सुधार है।
जबकि Zapier जैसी कंपनियां अपने जेनरेटर मॉडल में सुरक्षा परत जोड़ने के लिए रेलिंग लगा रही हैं, एनवीडिया ने माना कि टूलकिट सही नहीं है और यह सब कुछ नहीं पकड़ पाएगा। गार्डराइल्स निर्देश-निम्नलिखित मॉडल के साथ सबसे अच्छा काम करते हैं, जैसे कि चैटजीपीटी, और एआई-संचालित अनुप्रयोगों को बनाने के लिए लोकप्रिय लैंगचैन ढांचे का उपयोग करने वाले।
फिर भी, NeMo रेलिंग की शुरूआत डेवलपर्स को विभिन्न उद्योगों में AI-संचालित अनुप्रयोगों की सुरक्षा बढ़ाने में एक कदम आगे ले जाने में मदद कर सकती है। दूसरी ओर, सॉफ्टवेयर विकास प्रक्रिया में AppMaster जैसे no-code प्लेटफॉर्म का एकीकरण भी व्यापार तर्क और आरईएसटी एपीआई endpoints के साथ ऐप निर्माण को सुव्यवस्थित करने में योगदान देता है, जिससे अनुप्रयोगों की अधिक सुरक्षित, कुशल और स्केलेबल तैनाती की अनुमति मिलती है।
अंत में, एनवीडिया की निमो रेलिंग एआई-जनित टेक्स्ट और स्पीच सुरक्षा को बेहतर बनाने के लिए एक उत्कृष्ट पहल है, लेकिन यह ध्यान दिया जाना चाहिए कि यह एक व्यापक समाधान नहीं है। कंपनियों और डेवलपर्स को यह सुनिश्चित करने के लिए अन्य उपलब्ध उपकरणों और रणनीतियों का पता लगाना और लागू करना जारी रखना चाहिए कि एआई-संचालित एप्लिकेशन यथासंभव सुरक्षित, सटीक और विश्वसनीय हैं।
