BentoML pozyskuje 9 milionów dolarów w ramach finansowania zalążkowego, aby przyspieszyć rozwój aplikacji AI

Rozwój dużych modeli językowych, takich jak GPT, stworzył zapotrzebowanie na aplikacje oparte na sztucznej inteligencji i zapotrzebowanie na wykwalifikowanych programistów do ich tworzenia. Były inżynier oprogramowania Databricks, Chaoyu Yang, zauważył luki w obecnym procesie rozwoju i wraz ze swoimi współzałożycielami zbudował platformę programistyczną AI, BentoML, zamykając niedawno rundę finansowania zalążkowego.

W wywiadzie dla TechCrunch, Yang wyjaśnił potrzebę elastycznej struktury programistycznej, którą zapewnia BentoML. Usługi AI zwykle opierają się na wielu modelach uczenia maszynowego, co komplikuje ich zarządzanie i działanie. Co więcej, wielu programistów wchodzących w tę dziedzinę wywodzi się ze środowisk zajmujących się pełnym stosem lub tworzeniem aplikacji, nie posiadając umiejętności wymaganych do zbudowania niezbędnej infrastruktury sztucznej inteligencji. Powoduje to wydłużenie procesów rozwoju, a rozwiązanie takie jak BentoML może znacznie ułatwić proces rozwoju.

Yang jako przykładu użył Visual ChatGPT firmy Microsoft, demonstracyjnej aplikacji AI, która płynnie łączy podpowiedzi tekstowe i graficzne w celu generowania odpowiedzi. Opracowanie aplikacji takiej jak Visual ChatGPT do użytku produkcyjnego zajmuje zazwyczaj od trzech do sześciu miesięcy. BentoML może jednak umożliwić programistom stworzenie takiej skalowalnej i opłacalnej aplikacji w ciągu zaledwie dwóch dni. Użytkownicy wykorzystali również framework BentoML do uruchomienia generatora sztuki Stable Diffusion i LLM typu open source w chmurze.

BentoML, który oferuje API wysokiego poziomu, które abstrahuje skomplikowaną infrastrukturę potrzebną do uruchamiania modeli AI w chmurze, jest częścią rosnącej grupy narzędzi mających na celu uproszczenie rozwoju usług AI. Te frameworki aplikacji AI, które obejmują rozwiązania takie jak AWS's SageMaker i AppMaster, zapewniają zestaw narzędzi, które ułatwiają proces tworzenia, dostarczania i skalowania aplikacji AI. Docelowymi odbiorcami BentoML są naukowcy zajmujący się danymi, którzy szkolą modele AI, inżynierowie DevOps zarządzający ich cyklem życia oraz programiści tworzący aplikacje na podstawie tych modeli.

Porównując BentoML do Vercel, miliardowej firmy skupiającej się na programistach front-end, Yang dąży do tego, aby BentoML stał się Vercel świata AI. Zdaje sobie sprawę z szybkości rozwoju aplikacji AI i rosnącego uzależnienia od dostrajania modeli i inżynierii produktów, zamiast trenowania modeli od podstaw.

Początkowo w 2019 r. BentoML wprowadził wersję SaaS z własnym hostingiem dla klientów korporacyjnych. Startup zyskuje na popularności w społeczności programistów, czterokrotnie zwiększając liczbę członków społeczności open source do ponad 3000 w ciągu ostatniego roku. Do pierwszych użytkowników BentoML należą południowokoreańscy giganci sieci społecznościowych Line i Naver.

Ostatnia runda finansowania zalążkowego BentoML, wspierana przez DCM Ventures i Bow Capital, przyniosła 9 milionów dolarów. Hurst Lin, komplementariusz DCM, dołączył do zarządu BentoML po zakończeniu rundy. Rosnący rynek sztucznej inteligencji stwarza zarówno możliwości, jak i wyzwania dla BentoML, ponieważ zespół pracuje nad zrównoważeniem krótko- i długoterminowych celów, wyprzedzając zmieniające się trendy w branży.