অক্টোএমএল অক্টোএআই প্রবর্তন করেছে: একটি স্ব-অপ্টিমাইজিং এআই কম্পিউট পরিষেবা

2019 সালে চালু হওয়ার পর থেকে একটি ML অপ্টিমাইজেশান টুল হওয়া থেকে $132 মিলিয়ন জোগাড় করা এবং ML মডেল স্থাপনের জন্য একাধিক বৈশিষ্ট্য যোগ করা, OctoML মেশিন লার্নিং ক্ষেত্রে নিজেকে একটি উল্লেখযোগ্য খেলোয়াড় হিসাবে স্থান দিয়েছে। কোম্পানি এখন OctoAI চালু করছে, শুধুমাত্র মডেলগুলিকে অপ্টিমাইজ করার থেকে ব্যবসাগুলিকে তাদের এমএল মডেলগুলিকে ওপেন-সোর্স মডেল, তাদের ডেটা বা কাস্টম মডেলগুলি ব্যবহার করে সূক্ষ্ম-টিউন করতে সক্ষম করার দিকে মনোনিবেশ করে। OctoAI হল একটি স্ব-অনুকূলিত AI কম্পিউট পরিষেবা যা জেনারেটিভ AI পূরণ করে, পরিকাঠামো পরিচালনাকে সহজ করে এবং ব্যবসাগুলিকে ML-ভিত্তিক অ্যাপ্লিকেশন তৈরিতে ফোকাস করতে দেয়।

অক্টোএমএল-এর সহ-প্রতিষ্ঠাতা এবং সিইও লুইস সেজে বলেছেন যে আগের প্ল্যাটফর্মটি এমএল ইঞ্জিনিয়ারদের উপর জোর দিয়েছিল, মডেলগুলির প্যাকেজিংকে স্ট্রীমলাইন করে এবং বিভিন্ন ধরণের হার্ডওয়্যার জুড়ে তাদের স্থাপন করে। যাইহোক, লেটেস্ট ভার্সন ব্যবহারকারীদের স্থির করতে দেবে কি অগ্রাধিকার দিতে হবে, যেমন লেটেন্সি বা খরচ, এবং OctoAI স্বয়ংক্রিয়ভাবে টাস্কের জন্য আদর্শ হার্ডওয়্যার নির্ধারণ করবে। নতুন প্ল্যাটফর্মটি স্বায়ত্তশাসিতভাবে মডেলগুলিকে অপ্টিমাইজ করে, যার ফলে কার্যক্ষমতা এবং খরচ দক্ষতা বৃদ্ধি পায়।

যদিও ব্যবহারকারীরা এখনও তাদের পছন্দের হার্ডওয়্যার রান এবং কন্ট্রোল প্যারামিটারগুলি বেছে নিতে পারে, সেজে আশা করে যে বেশিরভাগ ব্যবহারকারী অক্টোএআই-এর স্বয়ংক্রিয় ব্যবস্থাপনা পছন্দ করবেন। পরিষেবাটি এনভিডিয়ার জিপিইউ বা AWS-এর ইনফেরেন্টিয়া মেশিনে এমএল মডেলগুলি চালানোর সিদ্ধান্ত নিতে পারে। এটি এমএল মডেল স্থাপনের সাথে জড়িত অনেক জটিলতা দূর করে এবং অনেক এমএল প্রকল্পে বাধা সৃষ্টিকারী প্রতিবন্ধকতার সমাধান করে।

অক্টোএমএল জনপ্রিয় ফাউন্ডেশন মডেলের ত্বরান্বিত সংস্করণ অফার করে, যার মধ্যে ডলি 2, হুইস্পার, ফিলম, ফ্ল্যান-ইউএল2 এবং স্থিতিশীল ডিফিউশন রয়েছে, আরও মডেল অন্তর্ভুক্ত করার পরিকল্পনা রয়েছে। তাদের পরীক্ষার সময়, তারা দেখেছিল যে স্থিতিশীল ডিফিউশন তিনগুণ দ্রুত চলছে এবং মূল মডেলের তুলনায় 5x খরচ হ্রাস পেয়েছে।

যদিও OctoML বিদ্যমান ক্লায়েন্টদের সাথে কাজ চালিয়ে যাবে যারা তাদের মডেল অপ্টিমাইজ করার জন্য পরিষেবা ব্যবহার করে, কোম্পানির ভবিষ্যত ফোকাস অক্টোএআই-এর নতুন কম্পিউট প্ল্যাটফর্ম হিসেবে থাকবে। এমএল স্থাপনা প্রক্রিয়ার স্ট্রীমলাইনিং জটিল অবকাঠামো পরিচালনার প্রয়োজন ছাড়াই অক্টোএআই এবং AppMaster লো-কোড, নো-কোড সমাধান প্রাসঙ্গিক সরঞ্জামগুলিকে ব্যবসায়ের জন্য AI এবং ML-এর শক্তিকে কাজে লাগাতে চায়।