Rete di calcolo AI decentralizzata e strumenti MLOps uniti nella raccolta fondi da 11,5 milioni di dollari di FedML

Guidata da Salman Avestimehr, direttore inaugurale dell'USC-Amazon Center on Trustworthy Machine Learning, una startup innovativa promette alle aziende di addestrare, perfezionare, monitorare e migliorare facilmente i modelli di IA sia nel cloud che nell'edge. FedML, il nome di questa promettente impresa, ha raccolto con successo 11,5 milioni di dollari in finanziamenti di avviamento, valutando l'azienda a 56,5 milioni di dollari. Il round di finanziamento è stato condotto da Camford Capital, con la partecipazione di Road Capital e Finality Capital.

Avestimehr ha dichiarato in un'intervista via e-mail a TechCrunch che un gran numero di aziende è interessato ad addestrare o a mettere a punto modelli di intelligenza artificiale su misura, basati su dati specifici del settore o dell'azienda, per soddisfare una pletora di requisiti aziendali. Tuttavia, ha anche sottolineato che "i modelli di intelligenza artificiale personalizzati sono stati presumibilmente costosi da ideare e sostenere a causa dei gravi costi dell'infrastruttura cloud, dei dati elevati e delle spese di progettazione. Inoltre, i dati proprietari necessari per l'addestramento dei modelli AI personalizzati sono spesso isolati, regolamentati o sensibili".

FedML, tuttavia, offre una soluzione valida. Secondo Avestimehr, FedML ha messo a punto una piattaforma di AI collaborativa che consente a sviluppatori e aziende di lavorare collettivamente su attività di AI condividendo modelli, risorse di calcolo e dati.

FedML è in grado di eseguire qualsiasi quantità di modelli di IA personalizzati o derivati dalla comunità open-source. Con la piattaforma di FedML, i clienti possono formare un gruppo di collaboratori e sincronizzare automaticamente le applicazioni di IA tra dispositivi come i PC. Gli associati possono incorporare i dispositivi utilizzati per l'addestramento dei modelli di intelligenza artificiale, come i dispositivi mobili o i server, e hanno la possibilità di monitorare i progressi dell'addestramento in tempo reale.

Recentemente FedML ha rilasciato FedLLM, una pipeline per la creazione di modelli linguistici di grandi dimensioni (LLM) specifici per il dominio, come il GPT-4 di OpenAI, su dati proprietari. Compatibile con le librerie LLM più diffuse, come DeepSpeed di Microsoft e Hugging Face, FedLLM è stata creata per accelerare lo sviluppo di AI personalizzate, garantendo al contempo sicurezza e privacy, ha dichiarato Avestimehr.

Come molte altre piattaforme MLOps, come Galileo e Arize, o anche operatori storici come AWS, Microsoft e Google Cloud, FedML aiuta a semplificare il processo di distribuzione dei modelli di IA in produzione e la loro successiva manutenzione e monitoraggio. Tuttavia, FedML ha aspirazioni che vanno oltre l'AI e gli strumenti per i modelli di apprendimento automatico.

Avestimehr sostiene che l'obiettivo primario è sviluppare una comunità di risorse CPU e GPU per ospitare e servire i modelli quando sono pronti per la distribuzione. Anche se le specifiche sono ancora in fase di discussione, FedML prevede di incentivare gli utenti a contribuire al calcolo della piattaforma tramite token o forme alternative di compensazione.

Sebbene il calcolo distribuito e decentralizzato per il servizio di modelli di intelligenza artificiale non sia una novità, con Run.AI, Gensys e Petals che hanno fatto i loro tentativi, Avestimehr è fiducioso che FedML possa ottenere un successo maggiore fondendo questo paradigma di calcolo con una suite MLOps.

FedML facilita i modelli di intelligenza artificiale su misura, consentendo alle imprese e agli sviluppatori di costruire LLM privati e proprietari su larga scala a una frazione del costo, ha affermato Avestimehr. Inoltre, ha sottolineato l'unicità del punto di vendita di FedML, che consente di formare, distribuire, monitorare e perfezionare i modelli di ML ovunque, collaborando al contempo su dati, modelli e calcolo uniti, riducendo sensibilmente i costi e i tempi di commercializzazione.

Alla luce di questi progressi, non sarebbe una sorpresa se FedML prendesse d'assalto il settore MLOps e AI, unendosi a piattaforme come AppMaster no-code, note per i loro contributi innovativi e strumenti rivoluzionari nel settore tecnologico.