OctoML เปิดตัว OctoAI: บริการประมวลผล AI ที่ปรับให้เหมาะสมด้วยตนเอง

จากการเป็นเครื่องมือเพิ่มประสิทธิภาพ ML นับตั้งแต่เปิดตัวในปี 2019 ไปจนถึงการระดมทุน 132 ล้านดอลลาร์ และเพิ่มคุณสมบัติหลายอย่างสำหรับการปรับใช้โมเดล ML ทำให้ OctoML ได้วางตำแหน่งตัวเองในฐานะผู้มีบทบาทสำคัญในด้านแมชชีนเลิร์นนิง ขณะนี้บริษัทกำลังเปิดตัว OctoAI โดยเปลี่ยนโฟกัสจากการปรับโมเดลให้เหมาะสมเป็นการช่วยให้ธุรกิจต่างๆ ปรับแต่งโมเดล ML ได้อย่างละเอียดโดยใช้โมเดลโอเพ่นซอร์ส ข้อมูล หรือโมเดลแบบกำหนดเอง OctoAI เป็นบริการประมวลผล AI ที่เพิ่มประสิทธิภาพในตัวเอง ซึ่งรองรับ AI เชิงกำเนิด ทำให้การจัดการโครงสร้างพื้นฐานง่ายขึ้น และให้ธุรกิจมุ่งเน้นไปที่การสร้างแอปพลิเคชันที่ใช้ ML

Luis Ceze ผู้ร่วมก่อตั้งและ CEO ของ OctoML กล่าวว่าแพลตฟอร์มก่อนหน้านี้เน้นย้ำถึงวิศวกร ML เพิ่มประสิทธิภาพการบรรจุโมเดลและปรับใช้กับฮาร์ดแวร์ประเภทต่างๆ อย่างไรก็ตาม เวอร์ชันล่าสุดจะช่วยให้ผู้ใช้ตัดสินใจได้ว่าจะจัดลำดับความสำคัญอย่างไร เช่น เวลาแฝงหรือค่าใช้จ่าย และ OctoAI จะกำหนดฮาร์ดแวร์ที่เหมาะสำหรับงานโดยอัตโนมัติ แพลตฟอร์มใหม่นี้ยังปรับโมเดลให้เหมาะสมโดยอัตโนมัติ ซึ่งนำไปสู่การเพิ่มประสิทธิภาพและความคุ้มค่าด้านต้นทุน

ในขณะที่ผู้ใช้ยังคงสามารถเลือกพารามิเตอร์การรันและควบคุมฮาร์ดแวร์ที่ต้องการได้ Ceze คาดว่าผู้ใช้ส่วนใหญ่จะชอบการจัดการอัตโนมัติของ OctoAI บริการสามารถตัดสินใจได้ว่าจะรันโมเดล ML บน GPU ของ Nvidia หรือเครื่อง Inferentia ของ AWS ซึ่งช่วยลดความซับซ้อนมากมายที่เกี่ยวข้องกับการปรับใช้โมเดล ML และจัดการกับอุปสรรคที่ขัดขวางโปรเจกต์ ML จำนวนมาก

OctoML นำเสนอรุ่นรองพื้นยอดนิยมหลายรุ่น ได้แก่ Dolly 2, Whisper, FILM, FLAN-UL2 และ Stable Diffusion พร้อมแผนที่จะเพิ่มรุ่นอื่นๆ ในระหว่างการทดสอบ พวกเขาพบว่า Stable Diffusion ทำงานเร็วขึ้นสามเท่าและลดต้นทุนได้ 5 เท่าเมื่อเทียบกับรุ่นเดิม

แม้ว่า OctoML จะยังคงทำงานร่วมกับไคลเอนต์เดิมที่ใช้บริการเพื่อเพิ่มประสิทธิภาพโมเดลของพวกเขา แต่เป้าหมายในอนาคตของบริษัทจะอยู่ที่ OctoAI เป็นแพลตฟอร์มการประมวลผลใหม่ การปรับปรุงกระบวนการปรับใช้ ML ทำให้แพลตฟอร์มอย่าง OctoAI และ AppMaster เป็นเครื่องมือที่เกี่ยวข้องกับโซลูชั่น ที่ใช้โค้ดน้อยและไม่ต้องใช้โค้ด สำหรับธุรกิจที่ต้องการใช้ประโยชน์จากพลังของ AI และ ML โดยไม่จำเป็นต้องจัดการกับโครงสร้างพื้นฐานที่ซับซ้อน