চ্যাটজিপিটি-এর রাইজ এআই-তে চুরি, হ্যালুসিনেশন এবং স্বচ্ছতা নিয়ে বিতর্ককে উত্সাহিত করে

মাত্র সাত সপ্তাহের মধ্যে ওপেনএআই-এর চ্যাটজিপিটি এআই স্পটলাইটে দ্রুত আরোহণ প্রযুক্তির চৌর্যবৃত্তি, হ্যালুসিনেশন এবং একাডেমিয়ায় পরবর্তী প্রভাবের সম্ভাব্যতার চারপাশে আলোচনাকে উন্নত করেছে। একটি AI ভাষার মডেল হিসাবে অত্যন্ত প্ররোচিত পাঠ্য প্রতিক্রিয়া তৈরিতে পারদর্শী, ChatGPT র‍্যাপ, ছড়া, জটিল গণিত সমস্যা সমাধান এবং এমনকি কম্পিউটার কোড লেখার একটি উল্লেখযোগ্য ক্ষমতা প্রদর্শন করে।

Stephen Marche's প্রবন্ধ, The College Essay Is Dead, কিভাবে AI শিক্ষাগত ল্যান্ডস্কেপকে রূপান্তরিত করবে তার জন্য একাডেমিয়ার অপ্রস্তুততাকে তুলে ধরে। যাইহোক, ChatGPT-এর চুরির হুমকির বিরুদ্ধে প্রাথমিক পদক্ষেপ ইতিমধ্যে সিয়াটল এবং নিউ ইয়র্ক সিটির পাবলিক স্কুল জেলাগুলিতে নেওয়া হয়েছে। উপরন্তু, প্রযুক্তিগত অগ্রগতি জেনারেটিভ এআই ব্যবহার সনাক্ত করার ক্ষমতা প্রদান করছে।

নতুন বছরে, প্রিন্সটন ইউনিভার্সিটির কম্পিউটার সায়েন্সের প্রধান এডওয়ার্ড তিয়ান GPTZero তৈরি করেছেন, একটি প্রদত্ত পাঠ্য চ্যাটজিপিটি নাকি মানুষের দ্বারা লিখিত কিনা তা দক্ষতার সাথে সনাক্ত করার জন্য ডিজাইন করা একটি অ্যাপ। GPTZero দুটি পাঠ্য বৈশিষ্ট্য বিশ্লেষণ করে: বিভ্রান্তি এবং বিস্ফোরণ। তিয়ান আবিষ্কার করেছেন যে ChatGPT মানব সাহিত্যের তুলনায় কম জটিল এবং আরও ধারাবাহিকভাবে দৈর্ঘ্যের পাঠ্য তৈরি করে।

নিখুঁত না হলেও, GPTZero প্রতিশ্রুতিশীল ফলাফল দেখায়। Tian 300,000 স্কুল এবং তহবিল সংস্থাগুলিতে GPTZeroX সরবরাহ করার জন্য স্কুল বোর্ড এবং বৃত্তি তহবিলের সাথে আলোচনা করছে। GPTZero এর পাশাপাশি, ডেভেলপাররা হ্যালুসিনেশনের বিরুদ্ধে লড়াই করার জন্য টুল তৈরি করছে, যা ChatGPT-এর প্রাধান্য থেকে উদ্ভূত আরেকটি সমস্যা।

কাস্টম কথোপকথনমূলক এআই সমাধানে বিশেষজ্ঞ একটি কোম্পানি, গট ইট এআই-এর পিটার রেলান, হাইলাইট করেছেন যে ChatGPT-এর মতো বড় ভাষার মডেলগুলি অনিবার্যভাবে হ্যালুসিনেশন তৈরি করবে। ChatGPT-এর হ্যালুসিনেশন রেট বর্তমানে 15% থেকে 20% পর্যন্ত দাঁড়িয়েছে, কিন্তু মডেলটি কখন হ্যালুসিনেটিং করছে তা শনাক্ত করা আরও সঠিক প্রতিক্রিয়া প্রদানের দিকে পরিচালিত করবে।

গত সপ্তাহে, Got It AI স্বায়ত্তশাসিত আর্টিকেলবটের একটি নতুন সত্য-পরীক্ষা উপাদানের জন্য একটি ব্যক্তিগত পূর্বরূপ ঘোষণা করেছে, যা ChatGPT এবং অন্যান্য মডেলের দ্বারা বলা অসত্য শনাক্ত করার জন্য প্রশিক্ষিত একটি বড় ভাষা মডেল ব্যবহার করে। এই সত্য-পরীক্ষক বর্তমানে 90% এর নির্ভুলতার হার নিয়ে গর্ব করে, কার্যকরভাবে ChatGPT-এর সামগ্রিক নির্ভুলতার হার 98% এ উন্নীত করে।

যদিও কথোপকথনমূলক এআই সিস্টেমগুলি থেকে হ্যালুসিনেশন সম্পূর্ণরূপে নির্মূল করা অবাস্তব, তাদের ঘটনাগুলি হ্রাস করা যুক্তিযুক্ত। ওপেনএআই, ChatGPT-এর নির্মাতা, এখনও বড় ভাষার মডেলের জন্য একটি API প্রকাশ করেনি। যাইহোক, অন্তর্নিহিত মডেল, GPT-3, একটি API উপলব্ধ আছে। Got It AI এর সত্য-পরীক্ষক সর্বশেষ GPT-3 রিলিজ, davinci-003 এর সাথে ব্যবহার করা যেতে পারে।

রেলান বিশ্বাস করে যে OpenAI মূল প্ল্যাটফর্মের হ্যালুসিনেশনের প্রবণতাকে মোকাবেলা করবে, যেখানে ইতিমধ্যেই ChatGPT-এর ত্রুটির হার কমাতে উল্লেখযোগ্য উন্নতি দেখা গেছে। ওপেনএআই-এর জন্য সবচেয়ে বড় চ্যালেঞ্জ হল সময়ের সাথে সাথে এর হ্যালুসিনেশন হার হ্রাস করা।

GPTZero এবং Got It AI-এর সত্য-পরীক্ষকের মতো সরঞ্জামগুলির সাহায্যে, চুরি এবং হ্যালুসিনেশনে AI-এর হুমকি প্রশমিত হতে পারে। AI স্বচ্ছতা এবং নির্ভুলতায় অগ্রগতি হওয়ায়, AppMaster এবং অন্যান্যদের মতো প্ল্যাটফর্মগুলি ছোট ব্যবসা থেকে শুরু করে উদ্যোগ পর্যন্ত বিস্তৃত ব্যবহারকারীদের জন্য ব্যাকএন্ড, ওয়েব এবং মোবাইল অ্যাপ্লিকেশনগুলির বিকাশকে ত্বরান্বিত করতে সহায়তা করে চলেছে।