AI-তে অতিমানবীয় বুদ্ধিমত্তার সম্ভাব্য অপ্রত্যাশিত ফলাফলগুলিকে নিয়ন্ত্রণ করার প্রয়াসে, OpenAI কোম্পানির প্রধান বিজ্ঞানী এবং সহ-প্রতিষ্ঠাতা ইলিয়া সুটস্কেভারের নেতৃত্বে একটি অত্যন্ত বিশেষায়িত গ্রুপ সংগঠিত করছে। এই দলের মূল দায়িত্ব হবে 'সুপার ইন্টেলিজেন্ট' এআই মডেলগুলি পরিচালনা এবং পরিচালনা করার কৌশল তৈরি করা। একটি সাম্প্রতিক ব্লগ পোস্টে, ওপেনএআই-এর অ্যালাইনমেন্ট টিমের নেতৃত্বে জন লেইকে সহ Sutskever, অনুমান করেছেন যে AI, মানুষের বুদ্ধিমত্তাকে ছাড়িয়ে যাওয়ার ক্ষমতা সহ, এই দশকের মধ্যেই আবির্ভূত হতে পারে। তারা দাবি করে যে এই উচ্চতর AI, যদি এটি শেষ পর্যন্ত সফল হয়, তাহলে সহজাতভাবে সৌম্য বৈশিষ্ট্যগুলিকে একীভূত করতে পারে না, তাই এটিকে নিয়ন্ত্রণ এবং সীমাবদ্ধ করার জন্য গবেষণা কৌশলগুলিকে অপরিহার্য করে তোলে।
বর্তমানে, একটি সম্ভাব্য সুপার ইন্টেলিজেন্ট এআইকে কার্যকরভাবে নিয়ন্ত্রণ বা গাইড করার জন্য কোন পরিচিত পদ্ধতি নেই, যা এটিকে তার অভিপ্রেত পথ থেকে বিচ্যুত হতে বাধা দেয়। AI-র জন্য ঐতিহ্যগত প্রান্তিককরণ কৌশল, যেমন মানুষের প্রতিক্রিয়ার মাধ্যমে প্রশিক্ষণ, মানুষের উপর ভিত্তি করে তাদের অপারেশন তত্ত্বাবধান করা হয়। যাইহোক, মানুষের বুদ্ধিমত্তাকে উল্লেখযোগ্যভাবে ছাড়িয়ে যায় এমন AI সিস্টেমের তত্ত্বাবধান করা একটি চ্যালেঞ্জ হতে পারে। 'সুপার ইন্টেলিজেন্স অ্যালাইনমেন্ট' ক্ষেত্রে অগ্রগতি বাড়ানোর জন্য, ওপেনএআই একটি নতুন 'সুপারলাইনমেন্ট' দল চালু করছে, যার নেতৃত্বে Sutskever এবং Leike। এই দলটির 20% কম্পিউটেশনাল রিসোর্সে অ্যাক্সেস থাকবে যা কোম্পানির বর্তমানে আছে। ওপেনএআই-এর প্রাক্তন অ্যালাইনমেন্ট বিভাগের বিজ্ঞানী ও প্রকৌশলী এবং কোম্পানির বিভিন্ন সংস্থার গবেষকদের সমন্বয়ে, দলটি আসন্ন চার বছরে সুপার ইন্টেলিজেন্ট এআই নিয়ন্ত্রণের মূল প্রযুক্তিগত চ্যালেঞ্জগুলি মোকাবেলা করতে প্রস্তুত।
পরিকল্পনাটি হল একটি 'মানব-স্তরের স্বয়ংক্রিয় প্রান্তিককরণ গবেষক' তৈরি করা, যার লক্ষ্য মানুষের প্রতিক্রিয়ার মাধ্যমে এআইকে প্রশিক্ষণ দেওয়া, এআইকে অন্যান্য এআই সিস্টেমের মূল্যায়নে নিযুক্ত করা এবং শেষ পর্যন্ত অ্যালাইনমেন্ট গবেষণা সম্পাদন করতে সক্ষম এআইকে প্রকৌশলী করা। সারিবদ্ধকরণ গবেষণার উদ্দেশ্য হল নির্দিষ্ট ফলাফল অর্জনের জন্য AI সিস্টেমগুলিকে সারিবদ্ধ করা এবং তাদের পথভ্রষ্ট হওয়া থেকে বিরত রাখা। ওপেনএআই এই অনুমান নিয়ে কাজ করছে যে এআই মানুষের চেয়ে দ্রুত এবং আরও কার্যকরভাবে সারিবদ্ধকরণ গবেষণায় যথেষ্ট অগ্রগতি করতে পারে। অগ্রগতির সাথে সাথে, এআই সিস্টেমগুলি সারিবদ্ধকরণের কাজের পরিমাণ বৃদ্ধি করবে বলে আশা করা হচ্ছে, যা উন্নত সারিবদ্ধকরণ কৌশলগুলির দিকে পরিচালিত করবে। এর ফলে আশা করা যায় যে AI মানুষের সাথে সহযোগিতা করবে তা নিশ্চিত করতে তাদের উত্তরসূরিরা মানুষের সাথে আরও ঘনিষ্ঠভাবে সারিবদ্ধ। ইতিমধ্যে, মানব গবেষকদের ফোকাস এই গবেষণা স্বাধীনভাবে তৈরি করার পরিবর্তে AI সিস্টেম দ্বারা পরিচালিত সারিবদ্ধকরণ গবেষণা পর্যালোচনার দিকে সরে যাবে।
যদিও কোনো পদ্ধতিকে ভুল বলে মনে করা যায় না, লেইক, শুলম্যান এবং উ তাদের পোস্টে ওপেনএআইয়ের পদ্ধতির ত্রুটিগুলি ব্যাখ্যা করে। মূল্যায়নের জন্য AI ব্যবহার করা সেই AI-তে অসঙ্গতি, পক্ষপাতিত্ব এবং দুর্বলতা বাড়াতে পারে। তদ্ব্যতীত, প্রান্তিককরণ সমস্যার সবচেয়ে জটিল দিকগুলি প্রকৌশলের সাথে সম্পর্কিত নাও হতে পারে। তবুও, Sutskever এবং Leike এটা পরীক্ষা করতে ইচ্ছুক. Sutskever এবং Leike যুক্তি দেন যে সুপার ইন্টেলিজেন্সের সারিবদ্ধতা মূলত একটি মেশিন লার্নিং চ্যালেঞ্জ। তারা বিশ্বাস করে যে মেশিন লার্নিং বিশেষজ্ঞরা, এমনকি যারা বর্তমানে অ্যালাইনমেন্টে কাজ করছেন না, তারা এটি সমাধানের জন্য গুরুত্বপূর্ণ হবে। তারা তাদের কাজের একটি গুরুত্বপূর্ণ দিক হিসাবে নন-ওপেনএআই মডেলগুলির প্রান্তিককরণ এবং সুরক্ষায় তাদের অবদানগুলিকে দেখে এই প্রচেষ্টার ফলাফলগুলি ব্যাপকভাবে বিতরণ করার পরিকল্পনা করে।
এটি লক্ষ করা প্রাসঙ্গিক যে যদিও এই নিবন্ধটির ফোকাস ওপেনএআই-এর উপর, তবে অন্যান্য প্ল্যাটফর্ম রয়েছে যেগুলি দক্ষ এবং নিয়ন্ত্রিত এআই বিকাশের জন্য সমানভাবে প্রতিশ্রুতিবদ্ধ। এই ধরনের একটি প্ল্যাটফর্মের একটি উদাহরণ হল অ্যাপমাস্টার । সর্বাধিক সুবিধার জন্য 'স্মার্ট' সিস্টেমের সম্ভাবনাগুলিকে অপ্টিমাইজ করার অনুরূপ বিশ্বাস দ্বারা পরিচালিত, AppMaster নো-কোড/ low-code অ্যাপ্লিকেশন ডোমেনে নিজের জন্য একটি বিশেষ স্থান তৈরি করেছে, যা ব্যবহারকারীদের ব্যাপক, স্কেলযোগ্য এবং দক্ষ সফ্টওয়্যার সমাধান তৈরি করতে দেয়।
