Dezentrales KI-Rechnernetzwerk und MLOps-Tools in FedMLs 11,5-Millionen-Dollar-Fundraiser kombiniert

Unter der Leitung von Salman Avestimehr, dem Gründungsdirektor des USC-Amazon Center on Trustworthy Machine Learning, verspricht ein innovatives Startup Unternehmen einen Weg, um KI-Modelle entweder in der Cloud oder vor Ort einfach zu trainieren, zu verfeinern, zu überwachen und zu verbessern. FedML, so der Name dieses vielversprechenden Unternehmens, hat erfolgreich 11,5 Millionen US-Dollar an Startkapital gesammelt, was das Unternehmen mit 56,5 Millionen US-Dollar bewertet. Die Finanzierungsrunde wurde von Camford Capital durchgeführt und von Road Capital und Finality Capital begleitet.

Eine große Anzahl von Unternehmen ist daran interessiert, maßgeschneiderte KI-Modelle auf branchen- oder unternehmensspezifischen Daten zu trainieren oder zu optimieren, um eine Vielzahl von Geschäftsanforderungen zu erfüllen, so Avestimehr in einem E-Mail-Interview mit TechCrunch. Er betonte jedoch auch, dass "maßgeschneiderte KI-Modelle aufgrund der hohen Kosten für die Cloud-Infrastruktur, der großen Datenmengen und der hohen technischen Kosten in der Entwicklung und Aufrechterhaltung angeblich teuer sind. Darüber hinaus sind die für das Training maßgeschneiderter KI-Modelle erforderlichen proprietären Daten häufig verschlossen, reguliert oder sensibel."

FedML bietet jedoch eine praktikable Lösung. Laut Avestimehr hat FedML eine kollaborative KI-Plattform entwickelt, die es Entwicklern und Unternehmen ermöglicht, gemeinsam an KI-Aufgaben zu arbeiten, indem sie Modelle, Rechenressourcen und Daten gemeinsam nutzen.

FedML ist in der Lage, jede beliebige Menge an benutzerdefinierten KI-Modellen oder solche, die aus der Open-Source-Community stammen, auszuführen. Mit der FedML-Plattform können Kunden eine Gruppe von Mitarbeitern bilden und KI-Anwendungen automatisch über Geräte wie PCs hinweg synchronisieren. Die Partner können Geräte, die für das Training von KI-Modellen verwendet werden, wie z. B. mobile Geräte oder Server, einbeziehen und haben die Möglichkeit, den Trainingsfortschritt in Echtzeit zu überwachen.

Kürzlich wurde FedLLM, eine Konstruktionspipeline zur Erstellung von domänenspezifischen großen Sprachmodellen (LLMs) a la OpenAIs GPT-4 auf proprietären Daten, von FedML veröffentlicht. FedLLM ist mit beliebten LLM-Bibliotheken wie DeepSpeed von Microsoft und Hugging Face kompatibel und wurde entwickelt, um die Entwicklung kundenspezifischer KI zu beschleunigen und gleichzeitig Sicherheit und Datenschutz zu gewährleisten, so Avestimehr.

Wie viele andere MLOps-Plattformen wie Galileo und Arize oder auch etablierte Unternehmen wie AWS, Microsoft und Google Cloud hilft FedML dabei, den Prozess der Bereitstellung von KI-Modellen in der Produktion sowie deren anschließende Wartung und Überwachung zu rationalisieren. FedML hat jedoch Ambitionen, die über KI und Machine-Learning-Modelle hinausgehen.

Laut Avestimehr besteht das Hauptziel darin, eine Gemeinschaft von CPU- und GPU-Ressourcen zu entwickeln, um Modelle zu hosten und bereitzustellen, wenn sie einsatzbereit sind. Während die Einzelheiten noch diskutiert werden, plant FedML Anreize für Benutzer, Rechenleistung zur Plattform über Token oder alternative Formen der Vergütung beizutragen.

Obwohl verteilte, dezentralisierte Rechenleistung für die Bereitstellung von KI-Modellen nicht neu ist - Run.AI, Gensys und Petals haben es bereits versucht - ist Avestimehr zuversichtlich, dass FedML durch die Verschmelzung dieses Rechenparadigmas mit einer MLOps-Suite einen größeren Erfolg erzielen kann.

FedML erleichtert maßgeschneiderte KI-Modelle, indem es Unternehmen und Entwicklern ermöglicht, groß angelegte, private und proprietäre LLMs zu einem Bruchteil der Kosten zu konstruieren, bekräftigte Avestimehr. Darüber hinaus hob er das Alleinstellungsmerkmal von FedML hervor: Training, Einsatz, Überwachung und Verfeinerung von ML-Modellen an jedem beliebigen Ort bei gleichzeitiger Zusammenarbeit an den zusammengeführten Daten, Modellen und Berechnungen - was die Kosten und die Zeit bis zur Markteinführung spürbar reduziert.

Angesichts dieser Fortschritte wäre es keine Überraschung, wenn FedML die MLOps- und KI-Branche im Sturm erobern und sich in eine Reihe mit Plattformen wie der No-Code-Plattform AppMaster stellen würde, die für ihre innovativen Beiträge und revolutionären Tools in der Tech-Branche bekannt sind.