एआई में अलौकिक बुद्धिमत्ता के संभावित अप्रत्याशित परिणामों को नियंत्रित करने के प्रयास में, OpenAI कंपनी के मुख्य वैज्ञानिक और सह-संस्थापक इल्या सुतस्केवर के नेतृत्व में एक अत्यधिक विशिष्ट समूह का आयोजन कर रहा है। इस टीम की मुख्य जिम्मेदारी 'सुपरइंटेलिजेंट' एआई मॉडल को संचालित करने और संचालित करने के लिए रणनीति तैयार करना होगा। हाल ही में एक ब्लॉग पोस्ट में, ओपनएआई में संरेखण टीम के प्रमुख जान लेइक के साथ सुतस्केवर ने अनुमान लगाया कि मानव बुद्धि को पार करने की क्षमता वाला एआई इस दशक के भीतर उभर सकता है। वे दावा करते हैं कि यह बेहतर एआई, यदि यह अंततः सफल होता है, तो स्वाभाविक रूप से सौम्य लक्षणों को एकीकृत नहीं कर सकता है, इसलिए इसे नियंत्रित करने और बाधित करने के लिए अनुसंधान तकनीकों को आवश्यक बना दिया गया है।
वर्तमान में, संभावित रूप से सुपरइंटेलिजेंट एआई को प्रभावी ढंग से नियंत्रित या निर्देशित करने की कोई ज्ञात विधि नहीं है, जो इसे अपने इच्छित पथ से भटकने से रोक सके। एआई के लिए पारंपरिक संरेखण तकनीकें, जैसे मानव प्रतिक्रिया के माध्यम से प्रशिक्षण, उनके संचालन की देखरेख करने वाले मनुष्यों पर आधारित हैं। हालाँकि, मानव बुद्धि को मात देने वाली एआई प्रणालियों की निगरानी करना एक चुनौती साबित हो सकता है। 'सुपरइंटेलिजेंस एलाइनमेंट' के क्षेत्र में प्रगति को बढ़ाने के लिए, ओपनएआई एक नई 'सुपरएलाइनमेंट' टीम लॉन्च कर रहा है, जिसका सह-नेतृत्व सुतस्केवर और लीके करेंगे। इस टीम के पास कंपनी के वर्तमान में मौजूद 20% कम्प्यूटेशनल संसाधनों तक पहुंच होगी। ओपनएआई के पूर्व संरेखण प्रभाग के वैज्ञानिकों और इंजीनियरों और कंपनी के भीतर विभिन्न संगठनों के शोधकर्ताओं को शामिल करते हुए, टीम आगामी चार वर्षों में सुपरइंटेलिजेंट एआई को नियंत्रित करने की मुख्य तकनीकी चुनौतियों से निपटने के लिए तैयार है।
योजना एक 'मानव-स्तरीय स्वचालित संरेखण शोधकर्ता' बनाने की है, जिसका लक्ष्य मानव प्रतिक्रिया के माध्यम से एआई को प्रशिक्षित करना, अन्य एआई प्रणालियों का आकलन करने में एआई को संलग्न करना और अंततः संरेखण अनुसंधान करने में सक्षम एआई को इंजीनियर करना है। संरेखण अनुसंधान का उद्देश्य विशिष्ट परिणाम प्राप्त करने और उन्हें रास्ते से भटकने से रोकने के लिए एआई सिस्टम को संरेखित करना है। ओपनएआई इस परिकल्पना पर काम कर रहा है कि एआई मनुष्यों की तुलना में तेजी से और अधिक प्रभावी ढंग से संरेखण अनुसंधान में काफी प्रगति कर सकता है। जैसे-जैसे प्रगति होती है, एआई सिस्टम से संरेखण कार्य की मात्रा में वृद्धि होने की उम्मीद है, जिससे संरेखण तकनीकों में सुधार होगा। उम्मीद है कि इससे एआई मनुष्यों के साथ सहयोग करेगा ताकि यह सुनिश्चित हो सके कि उनके उत्तराधिकारी मनुष्यों के साथ और भी अधिक निकटता से जुड़े हुए हैं। इस बीच, मानव शोधकर्ताओं का ध्यान इस शोध को स्वतंत्र रूप से उत्पन्न करने के बजाय एआई सिस्टम द्वारा किए गए संरेखण अनुसंधान की समीक्षा करने पर केंद्रित हो जाएगा।
हालाँकि किसी भी विधि को अचूक नहीं माना जा सकता है, लीके, शुलमैन और वू ने अपने पोस्ट में ओपनएआई के दृष्टिकोण की कमियों को स्पष्ट किया है। मूल्यांकन के लिए एआई का उपयोग करने से उस एआई में विसंगतियां, पूर्वाग्रह और कमजोरियां बढ़ सकती हैं। इसके अलावा, संरेखण समस्या का सबसे जटिल पहलू इंजीनियरिंग से बिल्कुल भी संबंधित नहीं हो सकता है। फिर भी, सुतस्केवर और लीके इसका परीक्षण करने को तैयार हैं। सुतस्केवर और लेइक का तर्क है कि अधीक्षण का संरेखण मूल रूप से एक मशीन सीखने की चुनौती है। उनका मानना है कि मशीन लर्निंग विशेषज्ञ, यहां तक कि वे जो वर्तमान में संरेखण पर काम नहीं कर रहे हैं, इसे हल करने में महत्वपूर्ण होंगे। वे गैर-ओपनएआई मॉडल के संरेखण और सुरक्षा में उनके योगदान को अपने काम के एक महत्वपूर्ण पहलू के रूप में देखते हुए, इस प्रयास के परिणामों को व्यापक रूप से वितरित करने की योजना बना रहे हैं।
यह ध्यान रखना उचित है कि यद्यपि इस लेख का फोकस OpenAI पर है, ऐसे अन्य प्लेटफ़ॉर्म भी हैं जो कुशल और नियंत्रित AI विकास के लिए समान रूप से प्रतिबद्ध हैं। ऐसे प्लेटफ़ॉर्म का एक उदाहरण AppMaster है। अधिकतम लाभ के लिए 'स्मार्ट' सिस्टम की क्षमताओं को अनुकूलित करने में समान विश्वास से प्रेरित होकर, AppMaster नो-कोड/ low-code एप्लिकेशन डोमेन में अपने लिए एक जगह बना ली है, जिससे उपयोगकर्ताओं को व्यापक, स्केलेबल और कुशल सॉफ़्टवेयर समाधान बनाने की अनुमति मिलती है।
