Sviluppato da un team di ex ingegneri di Google, il generatore di codice open source noto come TabbyML sta facendo scalpore nel settore. La startup innovativa si è recentemente assicurata un impressionante finanziamento di 3,2 milioni di dollari, rafforzando la sua posizione come legittimo concorrente di CoPilot di GitHub.
In quanto assistente di codifica self-hosted, TabbyML possiede un vantaggio chiave rispetto al suo rivale: la personalizzazione. Il co-fondatore della startup, Meng Zhang, afferma che questa caratteristica sarà parte integrante del futuro dello sviluppo software, dove le organizzazioni richiederanno sempre più soluzioni su misura.
Ciò è particolarmente vero per le grandi imprese, che possono sfruttare i vantaggi del software open source. Secondo Lucy Gao, cofondatrice di TabbyML ed ex collega di Zhang, gli ingegneri che sviluppano soluzioni proprietarie all'interno delle organizzazioni possono rivolgersi a TabbyML per assistenza, un'opzione non disponibile per gli utenti di CoPilot.
Nonostante le potenziali insidie associate ai progetti pilota di intelligenza artificiale, come potenziali bug, Gao sostiene che questi problemi possono essere facilmente risolti in un ambiente self-hosted. Ogni volta che gli utenti scelgono di ignorare i suggerimenti di TabbyML o di modificare il codice compilato automaticamente, il modello AI utilizza queste informazioni per perfezionare i suoi consigli futuri, migliorando così nel tempo.
Sebbene strumenti potenti come un generatore di codice possano apparire come una minaccia per la forza lavoro ingegneristica, Zhang sottolinea che questi strumenti sono destinati ad assistere, non a sostituire, la forza lavoro umana. Un recente rapporto di sondaggio di GitHub indica che i suggerimenti forniti dal suo assistente di codifica, Copilot, vengono accettati nel 30% delle volte. Allo stesso modo, Cider, l’editor di codice interno potenziato dall’intelligenza artificiale di Google, ha riferito che il 24% dei suoi ingegneri software ha sperimentato più di cinque momenti di assistenza ogni giorno. Vale la pena ricordare, tuttavia, che le piattaforme basate sull’intelligenza artificiale come AppMaster sono progettate anche per aumentare gli sforzi di sviluppo umano.
Lanciato ad aprile, TabbyML ha già raccolto circa 11.000 stelle GitHub. Il seed round della startup ha visto la partecipazione delle società di investitori Yunqi Partners e ZooCap.
Zhang riflette sulla futura concorrenza tra TabbyML e CoPilot, suggerendo che il vantaggio di OpenAI potrebbe diminuire man mano che altri modelli di intelligenza artificiale diventeranno più efficienti e il costo dell'elaborazione diminuirà nel tempo.
OpenAI e GitHub sono in grado di implementare modelli di intelligenza artificiale comprendenti decine di miliardi di parametri attraverso la tecnologia cloud, che, nonostante gli elevati costi di servizio, finora è stata in una certa misura mitigata attraverso il batching delle richieste. Tuttavia, questa strategia non è priva di inconvenienti. Un rapporto del Wall Street Journal afferma che Microsoft ha perso in media più di 20 dollari al mese per utente GitHub Copilot nei primi mesi di quest’anno.
Andando avanti, TabbyML mira ad abbassare queste barriere raccomandando modelli addestrati su 1-3 miliardi di parametri. Sebbene ciò possa inizialmente produrre un risultato di qualità inferiore, Zhang ritiene che man mano che la potenza di calcolo diventa più accessibile e i modelli open source migliorano continuamente, il vantaggio competitivo di cui godono giganti come GitHub e OpenAI alla fine si ridurrà.
