Gedecentraliseerd AI-computernetwerk en MLOps-tools gecombineerd in 11,5 miljoen dollar fondsenwerving door FedML

Onder leiding van Salman Avestimehr, de inaugurele directeur van het USC-Amazon Center on Trustworthy Machine Learning, belooft een innovatieve startup een pad voor bedrijven om eenvoudig AI-modellen in de cloud of aan de rand te trainen, verfijnen, controleren en verbeteren. FedML, de naam van deze veelbelovende onderneming, heeft met succes 11,5 miljoen dollar aan zaaifinanciering verzameld, waarmee het bedrijf gewaardeerd wordt op 56,5 miljoen dollar. De financieringsronde werd uitgevoerd door Camford Capital en werd gesteund door Road Capital en Finality Capital.

Een groot aantal bedrijven is erop gebrand om AI-modellen op maat te trainen of af te stemmen op branche- of bedrijfsspecifieke gegevens om tegemoet te komen aan een groot aantal zakelijke vereisten, aldus Avestimehr in een e-mailinterview met TechCrunch. Hij onderstreepte echter ook dat "AI-modellen op maat naar verluidt duur zijn om te ontwikkelen en te onderhouden vanwege de hoge kosten voor cloudinfrastructuur, verhoogde data- en engineeringkosten. Bovendien zijn de eigen gegevens die nodig zijn voor het trainen van AI-modellen op maat vaak afgeschermd, gereguleerd of gevoelig."

FedML biedt echter een haalbare oplossing. Volgens Avestimehr heeft FedML een samenwerkingsplatform voor AI ontwikkeld dat ontwikkelaars en bedrijven in staat stelt om gezamenlijk aan AI-taken te werken door modellen, rekenbronnen en gegevens te delen.

FedML kan elke hoeveelheid aangepaste AI-modellen of modellen uit de open-source gemeenschap uitvoeren. Met FedML's platform kunnen klanten een groep medewerkers vormen en AI-toepassingen automatisch synchroniseren op apparaten zoals pc's. Medewerkers kunnen apparaten gebruiken voor het trainen van AI-modellen, zoals mobiele apparaten of servers, en hebben de mogelijkheid om de voortgang van de training in realtime te volgen.

FedML heeft onlangs FedLLM uitgebracht, een constructiepijplijn voor het maken van domeinspecifieke grote taalmodellen (LLM's) a la OpenAI's GPT-4 op eigen gegevens. FedLLM, dat compatibel is met populaire LLM-bibliotheken zoals DeepSpeed van Microsoft en Hugging Face, is gemaakt om de ontwikkeling van AI op maat te versnellen en tegelijkertijd de veiligheid en privacy te waarborgen, aldus Avestimehr.

Net als veel andere MLOps-platforms zoals Galileo en Arize of zelfs gevestigde bedrijven zoals AWS, Microsoft en Google Cloud, helpt FedML bij het stroomlijnen van het proces om AI-modellen in productie te nemen en ze vervolgens te onderhouden en controleren. FedML heeft echter aspiraties die verder gaan dan AI en tooling voor machine-learningmodellen.

Avestimehr beweert dat het primaire doel is om een gemeenschap van CPU- en GPU-resources te ontwikkelen om modellen te hosten en te bedienen wanneer ze klaar zijn voor implementatie. Over de details wordt nog gediscussieerd, maar FedML is van plan om gebruikers te stimuleren om compute bij te dragen aan het platform via tokens of andere vormen van compensatie.

Hoewel gedistribueerde, gedecentraliseerde rekenkracht voor het serveren van AI-modellen niet nieuw is, met Run.AI, Gensys en Petals die hun pogingen hebben gedaan, is Avestimehr ervan overtuigd dat FedML meer succes kan boeken door dit rekenparadigma samen te voegen met een MLOps-suite.

FedML maakt AI-modellen op maat mogelijk door bedrijven en ontwikkelaars in staat te stellen grootschalige, private en eigen LLM's te bouwen tegen een fractie van de kosten, aldus Avestimehr. Verder benadrukte hij het unique selling point van FedML: overal ML-modellen trainen, implementeren, monitoren en verfijnen terwijl er wordt samengewerkt aan de samengevoegde data, modellen en compute - waardoor de kosten en time-to-market aanzienlijk worden verlaagd.

In het licht van deze vooruitgang zou het geen verrassing zijn als FedML de MLOps, AI-industrie stormenderhand verovert en zich voegt bij platforms zoals het AppMaster no-code platform, die bekend staan om hun innovatieve bijdragen en revolutionaire tools in de technologie-industrie.