BentoML raccoglie un finanziamento di 9 milioni di dollari per accelerare lo sviluppo di applicazioni AI

L'ascesa di modelli linguistici di grandi dimensioni come GPT ha creato una domanda di applicazioni basate sull'IA e la necessità di sviluppatori qualificati per crearle. L'ex ingegnere software di Databricks Chaoyu Yang ha notato le lacune dell'attuale processo di sviluppo e, insieme ai suoi co-fondatori, ha costruito il framework di sviluppo dell'IA, BentoML, chiudendo di recente un round di finanziamento iniziale.

In un'intervista a TechCrunch, Yang ha spiegato la necessità di un framework di sviluppo flessibile come BentoML. I servizi di intelligenza artificiale tendono a basarsi su più modelli di apprendimento automatico, complicandone la gestione e il funzionamento. Inoltre, molti programmatori che entrano in questo campo provengono da background full-stack o di sviluppo di applicazioni, e non hanno le competenze necessarie per costruire la necessaria infrastruttura di IA. Ciò causa processi di sviluppo più lunghi, mentre una soluzione come BentoML può facilitare notevolmente il processo di sviluppo.

Yang ha usato come esempio Visual ChatGPT di Microsoft, un'applicazione dimostrativa di IA che combina perfettamente testo e immagini per generare risposte. Lo sviluppo di un'applicazione come Visual ChatGPT per l'uso in produzione richiede generalmente dai tre ai sei mesi. Tuttavia, BentoML può consentire agli sviluppatori di realizzare un'applicazione come questa in modo scalabile ed efficiente in termini di costi in soli due giorni. Gli utenti hanno utilizzato il framework BentoML anche per far funzionare il generatore d'arte Stable Diffusion e gli LLM open-source sul cloud.

BentoML, che offre un'API di alto livello che astrae l'intricata infrastruttura necessaria per l'esecuzione di modelli di IA sul cloud, fa parte di un gruppo crescente di strumenti che mirano a semplificare lo sviluppo di servizi di IA. Questi framework di applicazioni AI, che includono soluzioni come SageMaker e AppMaster di AWS, forniscono una serie di strumenti che facilitano il processo di creazione, spedizione e scalabilità delle applicazioni AI. Il pubblico a cui si rivolge BentoML comprende i data scientist che formano i modelli di IA, gli ingegneri DevOps che ne gestiscono il ciclo di vita e gli sviluppatori che costruiscono applicazioni su questi modelli.

Paragonando BentoML a Vercel, un'azienda da un miliardo di dollari che si concentra sugli sviluppatori front-end, Yang vuole che BentoML diventi il Vercel del mondo dell'AI. Riconosce la velocità con cui è cresciuto lo sviluppo di applicazioni di IA e la crescente dipendenza dalla messa a punto dei modelli e dall'ingegneria dei prodotti piuttosto che dalla formazione di modelli da zero.

Inizialmente open-sourced nel 2019, BentoML ha introdotto una versione SaaS self-hosted per i clienti aziendali. La startup ha guadagnato trazione nella comunità degli sviluppatori, quadruplicando i membri della comunità open-source a oltre 3.000 nell'ultimo anno. Tra i primi utilizzatori di BentoML ci sono i giganti sudcoreani dei social network Line e Naver.

Il recente round di finanziamento di BentoML, sostenuto da DCM Ventures e Bow Capital, ha raccolto 9 milioni di dollari. Hurst Lin, partner generale di DCM, è entrato a far parte del consiglio di amministrazione di BentoML dopo il round. Il mercato in crescita dell'intelligenza artificiale presenta sia opportunità che sfide per BentoML, in quanto il team lavora per bilanciare gli obiettivi a breve e a lungo termine, rimanendo al passo con le tendenze in evoluzione del settore.