من كونها أداة تحسين ML منذ إطلاقها في عام 2019 إلى جمع 132 مليون دولار وإضافة ميزات متعددة لنشر نماذج ML ، وضعت OctoML نفسها كلاعب مهم في مجال التعلم الآلي. تطلق الشركة الآن OctoAI ، وتحول تركيزها من مجرد تحسين النماذج إلى تمكين الشركات من ضبط نماذج ML الخاصة بهم باستخدام نماذج مفتوحة المصدر أو بياناتهم أو نماذج مخصصة. OctoAI هي خدمة حوسبة ذاتية التحسين للذكاء الاصطناعي تقدم خدمات الذكاء الاصطناعي التوليدية وتبسط إدارة البنية التحتية وتسمح للشركات بالتركيز على بناء تطبيقات قائمة على ML.
قال لويس سيز ، المؤسس المشارك والرئيس التنفيذي لشركة OctoML ، إن المنصة السابقة ركزت على مهندسي ML ، وتبسيط تعبئة النماذج ونشرها عبر أنواع مختلفة من الأجهزة. ومع ذلك ، سيسمح الإصدار الأخير للمستخدمين بتحديد ما يجب تحديده حسب الأولوية ، مثل زمن الوصول أو التكلفة ، وسيحدد OctoAI تلقائيًا الأجهزة المثالية للمهمة. تعمل المنصة الجديدة أيضًا على تحسين النماذج بشكل مستقل ، مما يؤدي إلى زيادة الأداء وكفاءة التكلفة.
بينما لا يزال بإمكان المستخدمين اختيار معلمات التشغيل والتحكم في الأجهزة المفضلة لديهم ، تتوقع Ceze أن يفضل معظم المستخدمين الإدارة الآلية لـ OctoAI. يمكن للخدمة أن تقرر تشغيل نماذج ML على وحدات معالجة الرسومات الخاصة بـ Nvidia أو أجهزة Inferentia الخاصة بـ AWS. هذا يزيل العديد من التعقيدات التي ينطوي عليها نشر نماذج التعلم الآلي ويعالج العقبات التي أعاقت العديد من مشاريع التعلم الآلي.
تقدم OctoML إصدارات متسارعة من نماذج الأساس الشائعة ، بما في ذلك Dolly 2 و Whisper و FILM و FLAN-UL2 و Stable Diffusion ، مع خطط لتشمل المزيد من الطرز. أثناء الاختبار ، رأوا أن Stable Diffusion يعمل أسرع بثلاث مرات وحققوا انخفاضًا في التكلفة بمقدار 5x مقارنة بالنموذج الأصلي.
على الرغم من أن OctoML ستواصل العمل مع العملاء الحاليين الذين يستخدمون الخدمة لتحسين نماذجهم ، فإن تركيز الشركة في المستقبل سيكون على OctoAI كمنصة حوسبة جديدة. إن تبسيط عمليات نشر ML يجعل منصات مثل OctoAI و AppMaster ذات الشفرات المنخفضة والحلول الخالية من التعليمات البرمجية أدوات مناسبة للشركات التي تتطلع إلى تسخير قوة الذكاء الاصطناعي والتعلم الآلي ، دون الحاجة إلى التعامل مع البنية التحتية المعقدة.
