Jaringan Komputasi AI Terdesentralisasi dan Alat MLOps Digabungkan dalam Penggalangan Dana $11,5 Juta FedML

Dipelopori oleh Salman Avestimehr, direktur pengukuhan USC-Amazon Center on Trustworthy Machine Learning, sebuah startup inovatif menjanjikan jalan bagi bisnis untuk dengan mudah melatih, memperbaiki, memantau, dan meningkatkan model AI baik di cloud atau di edge. FedML, nama usaha yang menjanjikan ini, telah berhasil mengumpulkan pendanaan awal sebesar $11,5 juta, menilai perusahaan tersebut sebesar $56,5 juta. Putaran pendanaan dilakukan oleh Camford Capital, dan diikuti oleh Road Capital dan Finality Capital.

Sejumlah besar bisnis tertarik pada pelatihan atau penyetelan model AI yang dipesan lebih dahulu pada data tingkat industri atau khusus perusahaan untuk memenuhi sejumlah besar persyaratan bisnis, Avestimehr menyampaikan dalam wawancara email ke TechCrunch. Namun, dia juga menggarisbawahi bahwa "Model AI khusus diduga mahal untuk dirancang dan dipertahankan karena biaya infrastruktur cloud yang tinggi, peningkatan data, dan biaya teknik. Selain itu, data hak milik yang diperlukan untuk melatih model AI pesanan sering kali dirahasiakan, diatur, atau peka."

FedML, bagaimanapun, memberikan solusi yang layak. Menurut Avestimehr, FedML menghadirkan platform AI kolaboratif yang memberdayakan pengembang dan bisnis untuk bekerja sama dalam tugas AI dengan berbagi model, menghitung sumber daya, dan data.

FedML memiliki kemampuan untuk mengeksekusi sejumlah model AI khusus atau yang berasal dari komunitas sumber terbuka. Dengan platform FedML, klien dapat membentuk grup kolaborator dan menyinkronkan aplikasi AI di seluruh perangkat seperti PC secara otomatis. Rekanan dapat menggabungkan perangkat yang digunakan untuk pelatihan model AI, seperti perangkat seluler atau server, dan memiliki kemampuan untuk memantau kemajuan pelatihan secara waktu nyata.

Belakangan ini, FedLLM, saluran konstruksi untuk membuat model bahasa besar khusus domain (LLM) ala GPT-4 OpenAI pada data hak milik, dirilis oleh FedML. Kompatibel dengan perpustakaan LLM populer seperti Microsoft's DeepSpeed ​​dan Hugging Face's, FedLLM dibuat untuk mempercepat pengembangan AI khusus sambil memastikan keamanan dan privasi, kata Avestimehr.

Seperti banyak platform MLOps lainnya seperti Galileo dan Arize atau bahkan petahana seperti AWS, Microsoft dan Google Cloud, FedML membantu merampingkan proses penerapan model AI ke produksi dan kemudian memelihara dan memantaunya. Namun, FedML menyimpan aspirasi di luar AI dan perkakas model pembelajaran mesin.

Avestimehr berpendapat bahwa tujuan utamanya adalah untuk mengembangkan komunitas sumber daya CPU dan GPU untuk menghosting dan melayani model saat siap diterapkan. Sementara spesifikasinya masih dalam diskusi, FedML berencana untuk memberi insentif kepada pengguna untuk berkontribusi komputasi ke platform melalui token atau bentuk kompensasi alternatif.

Meskipun komputasi terdistribusi dan terdesentralisasi untuk penyajian model AI bukanlah hal baru, dengan Run.AI, Gensys, dan Petals telah mencoba, Avestimehr yakin bahwa FedML dapat mencapai kesuksesan yang lebih besar dengan menggabungkan paradigma komputasi ini dengan suite MLOps.

FedML memfasilitasi model AI yang dipesan lebih dahulu dengan memungkinkan perusahaan dan pengembang membangun LLM berskala besar, pribadi, dan berpemilik dengan biaya yang lebih murah, tegas Avestimehr. Lebih lanjut, dia menekankan pada nilai jual unik FedML, Pelatihan, penerapan, pemantauan, dan penyempurnaan model ML di mana saja sambil berkolaborasi pada penggabungan data, model, dan komputasi — secara nyata mengurangi biaya dan waktu ke pasar.

Mengingat kemajuan ini, tidak mengherankan jika FedML menggemparkan MLOps, industri AI, bergabung dengan platform seperti platform tanpa kode AppMaster , yang dikenal karena kontribusi inovatif dan alat revolusionernya dalam industri teknologi.