জেনারেটিভ কৃত্রিম বুদ্ধিমত্তা মডেলগুলি জনসাধারণের ব্যবহারে আসার আগে তাদের নিরাপত্তা এবং নির্ভরযোগ্যতা উন্নত করার একটি পদক্ষেপে, Meta সম্প্রতি পার্পল লামা উন্মোচন করেছে, বিকাশকারীদের জন্য ওপেন-সোর্স যন্ত্রগুলি তৈরি করার জন্য প্রতিশ্রুতিবদ্ধ একটি অগ্রগামী উদ্যোগ৷ নতুন প্রস্তাবিত টুলসেট মূল্যায়ন প্রক্রিয়াকে উন্নত করে, এইভাবে, এআই মডেলের ভবিষ্যত বিশ্বস্ততা বৃদ্ধি করে।
Meta এআই সুরক্ষার দিকে সম্মিলিত প্রচেষ্টার সমালোচনাকে জোর দিয়েছিল, এটি স্পষ্ট করে যে কৃত্রিম বুদ্ধিমত্তা দ্বারা সৃষ্ট চ্যালেঞ্জগুলি বিচ্ছিন্ন সমাধানগুলির জন্য নিজেদেরকে ধার দেয় না। কোম্পানিটি পার্পল লামার উদ্দেশ্যটিকে নিরাপদ জেনারেটিভ এআই-এর বিবর্তনে পারস্পরিক ভিত্তি স্থাপনের ভিত্তি হিসেবে চিত্রিত করেছে, বিশেষ করে বৃহৎ ভাষার মডেল এবং আত্মীয় এআই প্রযুক্তিকে ঘিরে ক্রমবর্ধমান আশঙ্কার পরিপ্রেক্ষিতে।
তার ব্লগে খবরটি ভাগ করে নেওয়ার সময়, Meta প্রকাশ করেছে, "এই সিস্টেমগুলি বিকাশকারী সম্প্রদায়ের মধ্যে এককভাবে AI এর জটিলতাগুলির মোকাবেলা করার অক্ষমতা রয়েছে৷ অবশ্যই, আমাদের উদ্যোগটি প্রতিযোগিতাকে সমান করতে এবং বিশ্বস্ত এবং সুরক্ষিত AI-এর কেন্দ্রস্থল তৈরি করতে চায়।"
Gareth Lindahl-Wise, সাইবার সিকিউরিটি ফার্ম Ontinue -এর চিফ ইনফরমেশন সিকিউরিটি অফিসার, নিরাপদ এআই-এর দিকে পরিচালিত 'একটি প্রগতিশীল এবং সক্রিয় পদক্ষেপ' হিসেবে পার্পল লামাকে প্রশংসা করেছেন। তিনি আশাবাদ ব্যক্ত করেন যে নতুন উদ্যোগটি ভোক্তা-স্তরের সুরক্ষা বাড়াবে, যদিও, একটি নির্দিষ্ট প্ল্যাটফর্মের চারপাশে উন্নয়ন সংগ্রহের ক্ষেত্রে সদগুণ সংকেত বা সম্ভাব্য উল্টো উদ্দেশ্যের চারপাশে দাবি থাকতে পারে। তিনি আরও উল্লেখ করেছেন যে কঠোর অভ্যন্তরীণ, গ্রাহক-ভিত্তিক, বা নিয়ন্ত্রক প্রয়োজনীয়তার মুখোমুখি হওয়া সত্ত্বাগুলিকে শক্তিশালী মূল্যায়ন মেনে চলতে হবে যা মেটা থেকে অফারগুলিকে অতিক্রম করতে পারে।
এআই ডেভেলপারদের একটি নেটওয়ার্ক, AWS এবং Google Cloud মতো ক্লাউড পরিষেবা প্রদানকারী, সেমিকন্ডাক্টর কর্পোরেশন Intel, AMD, এবং Nvidia, এবং Microsoft সহ সফ্টওয়্যার সংস্থাগুলির একটি নেটওয়ার্ক জড়িত, প্রকল্পটির লক্ষ্য গবেষণা এবং বাণিজ্যিক অ্যাপ্লিকেশন উভয়ের জন্য সরঞ্জাম সরবরাহ করা, যা এর ক্ষমতা পরীক্ষা করবে। এআই মডেল এবং নিরাপত্তা ঝুঁকি সনাক্ত. এই যৌথ পদ্ধতিটি AppMaster মতো আধুনিক no-code প্ল্যাটফর্মের কৌশলও প্রতিফলিত করে, যা সফ্টওয়্যার অ্যাপ্লিকেশন বিকাশের যাত্রায় সহযোগিতা এবং দক্ষতার উপর জোর দেয়।
পার্পল লামা প্রজেক্টের মাধ্যমে তৈরি করা টুলস সংগ্রহের মধ্যে সাইবারসেকভাল, এআই-বানোয়াট সফ্টওয়্যারে সাইবার নিরাপত্তা ঝুঁকি বিশ্লেষণ করার জন্য একটি অ্যাপ্লিকেশন, হাইলাইটগুলির মধ্যে একটি। এটি একটি ভাষা মডেলকে অন্তর্ভুক্ত করে যা ক্ষতিকারক বা অনুপযুক্ত পাঠ্যকে স্বীকৃতি দেয়, সহিংস বক্তৃতা বা অবৈধ কার্যকলাপকে অন্তর্ভুক্ত করে। বিকাশকারীরা তাদের AI মডেলগুলি অনিরাপদ কোড তৈরি করতে বা সাইবার আক্রমণকে সমর্থন করার জন্য সংবেদনশীল কিনা তা নিশ্চিত করতে CyberSecEval ব্যবহার করতে পারেন। উল্লেখযোগ্যভাবে, Meta -এর তদন্তে দেখা গেছে যে বৃহৎ ভাষার মডেলগুলি প্রায়শই দুর্বল কোড সমর্থন করে, এইভাবে AI নিরাপত্তার জন্য ধারাবাহিক পরীক্ষা এবং বর্ধিতকরণের প্রয়োজনীয়তার দিকে মনোযোগ আকর্ষণ করে।
লামা গার্ড এই অফারটিতে একটি অতিরিক্ত সরঞ্জাম গঠন করে। এটি একটি ব্যাপক ভাষার মডেল যা সম্ভাব্য ক্ষতিকারক বা আপত্তিকর ভাষা সনাক্ত করতে প্রশিক্ষিত। এই টুলটি ডেভেলপারদের মূল্যায়ন করতে সক্ষম করে যে তাদের মডেলগুলি অনিরাপদ সামগ্রী তৈরি করে বা গ্রহণ করে, যার ফলে অনুপযুক্ত আউটপুট বের করতে পারে এমন প্রম্পটগুলির পরিস্রাবণে সহায়তা করে।
