Zdecentralizowana sieć obliczeniowa AI i narzędzia MLOps połączone w zbiórce funduszy FedML o wartości 11,5 mln USD

Innowacyjny startup, kierowany przez Salmana Avestimehra, dyrektora inauguracyjnego USC-Amazon Center on Trustworthy Machine Learning, obiecuje firmom ścieżkę łatwego szkolenia, udoskonalania, monitorowania i ulepszania modeli sztucznej inteligencji w chmurze lub na brzegu sieci. FedML, nazwa tego obiecującego przedsięwzięcia, z powodzeniem zgromadziła 11,5 miliona dolarów w ramach finansowania zalążkowego, wyceniając firmę na 56,5 miliona dolarów. Runda finansowania została przeprowadzona przez Camford Capital, a uczestniczyły w niej Road Capital i Finality Capital.

Ogromna liczba firm jest zainteresowana szkoleniem lub dostosowywaniem niestandardowych modeli sztucznej inteligencji na poziomie branżowym lub danych specyficznych dla firmy, aby zaspokoić wiele wymagań biznesowych, przekazał Avestimehr w wywiadzie e-mailowym dla TechCrunch. Podkreślił jednak również, że "niestandardowe modele sztucznej inteligencji były rzekomo drogie w opracowaniu i utrzymaniu ze względu na wysokie koszty infrastruktury chmurowej, podwyższone dane i wydatki inżynieryjne. Ponadto zastrzeżone dane niezbędne do szkolenia niestandardowych modeli sztucznej inteligencji są często odizolowane, regulowane lub wrażliwe".

FedML zapewnia jednak realne rozwiązanie. Według Avestimehr, FedML to platforma sztucznej inteligencji oparta na współpracy, która umożliwia programistom i firmom wspólną pracę nad zadaniami sztucznej inteligencji poprzez udostępnianie modeli, zasobów obliczeniowych i danych.

FedML ma możliwość wykonywania dowolnej ilości niestandardowych modeli AI lub tych pochodzących od społeczności open-source. Dzięki platformie FedML klienci mogą tworzyć grupę współpracowników i automatycznie synchronizować aplikacje AI na różnych urządzeniach, takich jak komputery PC. Współpracownicy mogą włączać urządzenia wykorzystywane do szkolenia modeli AI, takie jak urządzenia mobilne lub serwery, i mają możliwość monitorowania postępów szkolenia w czasie rzeczywistym.

Ostatnio FedLLM, potok konstrukcyjny do tworzenia specyficznych dla domeny dużych modeli językowych (LLM) a la GPT-4 OpenAI na zastrzeżonych danych, został wydany przez FedML. Kompatybilny z popularnymi bibliotekami LLM, takimi jak Microsoft DeepSpeed i Hugging Face, FedLLM został stworzony w celu przyspieszenia rozwoju niestandardowej sztucznej inteligencji przy jednoczesnym zapewnieniu bezpieczeństwa i prywatności, stwierdził Avestimehr.

Podobnie jak wiele innych platform MLOps, takich jak Galileo i Arize, a nawet zasiedziali operatorzy, tacy jak AWS, Microsoft i Google Cloud, FedML pomaga usprawnić proces wdrażania modeli AI do produkcji, a następnie ich utrzymywania i monitorowania. FedML ma jednak aspiracje wykraczające poza sztuczną inteligencję i narzędzia do uczenia maszynowego.

Avestimehr twierdzi, że głównym celem jest stworzenie społeczności zasobów CPU i GPU do hostowania i obsługi modeli, gdy są one gotowe do wdrożenia. Podczas gdy szczegóły są nadal przedmiotem dyskusji, FedML planuje zachęcać użytkowników do wnoszenia obliczeń na platformę za pomocą tokenów lub alternatywnych form rekompensaty.

Chociaż rozproszone, zdecentralizowane obliczenia do obsługi modeli sztucznej inteligencji nie są nowością, a Run.AI, Gensys i Petals podjęły już swoje próby, Avestimehr jest przekonany, że FedML może osiągnąć większy sukces, łącząc ten paradygmat obliczeniowy z pakietem MLOps.

FedML ułatwia tworzenie niestandardowych modeli sztucznej inteligencji, umożliwiając przedsiębiorstwom i programistom tworzenie prywatnych i zastrzeżonych LLM na dużą skalę za ułamek kosztów, potwierdził Avestimehr. Ponadto podkreślił unikalny punkt sprzedaży FedML, szkolenie, wdrażanie, monitorowanie i udoskonalanie modeli ML w dowolnym miejscu, przy jednoczesnej współpracy nad połączonymi danymi, modelami i obliczeniami - znacznie zmniejszając koszty i czas wprowadzenia na rynek.

W świetle tych postępów nie byłoby zaskoczeniem, gdyby FedML szturmem podbił branżę MLOps i AI, dołączając do platform takich jak AppMaster no-code, znanych z innowacyjnego wkładu i rewolucyjnych narzędzi w branży technologicznej.