Réseau décentralisé de calcul d'IA et outils MLOps combinés dans la levée de fonds de 11,5 millions de dollars de FedML

Dirigée par Salman Avestimehr, directeur inaugural du USC-Amazon Center on Trustworthy Machine Learning, une startup innovante promet de permettre aux entreprises de former, d'affiner, de contrôler et d'améliorer facilement les modèles d'IA, que ce soit dans le nuage ou à la périphérie. FedML, le nom de cette entreprise prometteuse, a réussi à réunir 11,5 millions de dollars de fonds d'amorçage, ce qui valorise l'entreprise à 56,5 millions de dollars. Le tour de table a été mené par Camford Capital, avec la participation de Road Capital et Finality Capital.

Un grand nombre d'entreprises souhaitent former ou ajuster des modèles d'IA sur mesure à partir de données sectorielles ou spécifiques à l'entreprise afin de répondre à une pléthore d'exigences commerciales, a déclaré Avestimehr lors d'un entretien par courriel avec TechCrunch. Cependant, il a également souligné que "les modèles d'IA personnalisés ont été prétendument coûteux à concevoir et à maintenir en raison des coûts élevés de l'infrastructure en nuage, des données élevées et des dépenses d'ingénierie. En outre, les données propriétaires nécessaires à l'entraînement des modèles d'IA personnalisés sont souvent isolées, réglementées ou sensibles."

FedML offre toutefois une solution viable. Selon Avestimehr, FedML a mis en place une plateforme d'IA collaborative qui permet aux développeurs et aux entreprises de travailler collectivement sur des tâches d'IA en partageant des modèles, des ressources informatiques et des données.

FedML a la capacité d'exécuter n'importe quelle quantité de modèles d'IA personnalisés ou dérivés de la communauté open-source. Grâce à la plateforme de FedML, les clients peuvent former un groupe de collaborateurs et synchroniser automatiquement les applications d'IA sur des appareils tels que les PC. Les associés peuvent incorporer des appareils utilisés pour l'entraînement des modèles d'IA, tels que des appareils mobiles ou des serveurs, et avoir la possibilité de suivre la progression de l'entraînement en temps réel.

Récemment, FedLLM, un pipeline de construction pour la création de grands modèles de langage (LLM) spécifiques à un domaine, à l'instar du GPT-4 d'OpenAI sur des données propriétaires, a été publié par FedML. Compatible avec des bibliothèques LLM populaires telles que DeepSpeed de Microsoft et Hugging Face, FedLLM est conçu pour accélérer le développement d'IA personnalisées tout en garantissant la sécurité et la confidentialité, a déclaré Avestimehr.

Comme beaucoup d'autres plateformes MLOps telles que Galileo et Arize ou même des opérateurs historiques comme AWS, Microsoft et Google Cloud, FedML aide à rationaliser le processus de déploiement des modèles d'IA en production, puis à les maintenir et à les surveiller. Cependant, FedML nourrit des aspirations qui vont au-delà de l'IA et de l'outillage de modèles d'apprentissage automatique.

Selon M. Avestimehr, l'objectif premier est de développer une communauté de ressources CPU et GPU pour héberger et servir les modèles lorsqu'ils sont prêts à être déployés. Bien que les détails soient encore en cours de discussion, FedML prévoit d'inciter les utilisateurs à contribuer au calcul de la plateforme par le biais de jetons ou d'autres formes de compensation.

Bien que le calcul distribué et décentralisé pour la fourniture de modèles d'IA ne soit pas une nouveauté, Run.AI, Gensys et Petals ayant fait leurs tentatives, Avestimehr est convaincu que FedML peut atteindre un plus grand succès en fusionnant ce paradigme de calcul avec une suite MLOps.

FedML facilite les modèles d'IA sur mesure en permettant aux entreprises et aux développeurs de construire des LLM privés et propriétaires à grande échelle pour une fraction du coût, a affirmé Avestimehr. En outre, il a insisté sur l'argument de vente unique de FedML, à savoir la formation, le déploiement, la surveillance et l'amélioration des modèles de ML en tout lieu, tout en collaborant sur les données, les modèles et l'informatique fusionnés, ce qui réduit considérablement le coût et le temps de mise sur le marché.

À la lumière de ces avancées, il ne serait pas surprenant que FedML prenne d'assaut l'industrie des MLOps et de l'IA, rejoignant les rangs de plateformes telles que la plateforme no-code AppMaster, connue pour ses contributions innovantes et ses outils révolutionnaires dans l'industrie technologique.