OctoML पेश करता है OctoAI: एक सेल्फ-ऑप्टिमाइज़िंग AI कंप्यूट सर्विस

2019 में लॉन्च होने के बाद से एक एमएल ऑप्टिमाइज़ेशन टूल होने से लेकर $132 मिलियन जुटाने और एमएल मॉडल की तैनाती के लिए कई सुविधाएँ जोड़ने तक, OctoML ने खुद को मशीन लर्निंग क्षेत्र में एक महत्वपूर्ण खिलाड़ी के रूप में स्थापित किया है। कंपनी अब OctoAI लॉन्च कर रही है, अपना ध्यान केवल मॉडल को अनुकूलित करने से हटाकर व्यवसायों को ओपन-सोर्स मॉडल, उनके डेटा या कस्टम मॉडल का उपयोग करके अपने एमएल मॉडल को ठीक करने में सक्षम बनाने के लिए कर रही है। ऑक्टोएआई एक स्व-अनुकूलित एआई कंप्यूट सेवा है जो जनरेटिव एआई को पूरा करती है, बुनियादी ढांचे के प्रबंधन को सरल बनाती है और व्यवसायों को एमएल-आधारित अनुप्रयोगों के निर्माण पर ध्यान केंद्रित करने देती है।

ऑक्टोएमएल के सह-संस्थापक और सीईओ लुइस सीज़ ने कहा कि पिछले प्लेटफॉर्म ने एमएल इंजीनियरों पर जोर दिया, मॉडल की पैकेजिंग को सुव्यवस्थित किया और उन्हें विभिन्न प्रकार के हार्डवेयर में तैनात किया। हालाँकि, नवीनतम संस्करण उपयोगकर्ताओं को यह तय करने देगा कि क्या प्राथमिकता दी जाए, जैसे कि विलंबता या लागत, और OctoAI स्वचालित रूप से कार्य के लिए आदर्श हार्डवेयर का निर्धारण करेगा। नया प्लेटफॉर्म भी मॉडल को स्वायत्त रूप से अनुकूलित करता है, जिससे प्रदर्शन और लागत दक्षता में वृद्धि होती है।

जबकि उपयोगकर्ता अभी भी अपने पसंदीदा हार्डवेयर रन और नियंत्रण मापदंडों को चुन सकते हैं, सीज़ को उम्मीद है कि अधिकांश उपयोगकर्ता ऑक्टोएआई के स्वचालित प्रबंधन को पसंद करेंगे। सेवा यह तय कर सकती है कि एमएल मॉडल को एनवीडिया के जीपीयू या एडब्ल्यूएस की इंफेरेंटिया मशीनों पर चलाना है या नहीं। यह एमएल मॉडल परिनियोजन में शामिल कई जटिलताओं को समाप्त करता है और कई एमएल परियोजनाओं को बाधित करने वाली बाधाओं को दूर करता है।

OctoML अधिक मॉडलों को शामिल करने की योजना के साथ डॉली 2, व्हिस्पर, फिल्म, FLAN-UL2 और स्थिर प्रसार सहित लोकप्रिय फाउंडेशन मॉडल के त्वरित संस्करण प्रदान करता है। अपने परीक्षण के दौरान, उन्होंने देखा कि स्टेबल डिफ्यूजन तीन गुना तेजी से चलता है और मूल मॉडल की तुलना में लागत में 5 गुना कमी आई है।

हालांकि OctoML मौजूदा ग्राहकों के साथ काम करना जारी रखेगी जो अपने मॉडल को अनुकूलित करने के लिए सेवा का उपयोग करते हैं, कंपनी का भविष्य का फोकस नए कंप्यूट प्लेटफॉर्म के रूप में OctoAI पर होगा। ML परिनियोजन प्रक्रियाओं को सुव्यवस्थित करने से जटिल बुनियादी ढांचे को संभालने की आवश्यकता के बिना, AI और ML की शक्ति का उपयोग करने वाले व्यवसायों के लिए OctoAI और AppMaster के लो-कोड, नो-कोड समाधान प्रासंगिक उपकरण जैसे प्लेटफ़ॉर्म बन जाते हैं।