Développé par une équipe d'anciens ingénieurs de Google, le générateur de code open source connu sous le nom de TabbyML fait des vagues dans l'industrie. La startup innovante a récemment obtenu un financement de démarrage impressionnant de 3,2 millions de dollars, renforçant ainsi sa place de concurrent légitime du CoPilot de GitHub.
En tant qu'assistant de codage auto-hébergé, TabbyML possède un avantage clé par rapport à son rival : la personnalisation. Le cofondateur de la startup, Meng Zhang, affirme que cette fonctionnalité fera partie intégrante de l'avenir du développement de logiciels, où les organisations exigeront de plus en plus de solutions sur mesure.
Cela est particulièrement vrai pour les grandes entreprises, qui peuvent profiter des avantages des logiciels open source. Selon Lucy Gao, cofondatrice de TabbyML et ancienne collègue de Zhang, les ingénieurs développant des solutions propriétaires au sein des organisations peuvent se tourner vers TabbyML pour obtenir de l'aide, une option non disponible pour les utilisateurs de CoPilot.
Malgré les pièges potentiels associés aux pilotes d'IA, tels que les bugs potentiels, Gao maintient que ces problèmes peuvent être facilement résolus dans un environnement auto-hébergé. Chaque fois que les utilisateurs choisissent d'ignorer les suggestions de TabbyML ou de modifier le code rempli automatiquement, le modèle d'IA utilise ces informations pour affiner ses futures recommandations, s'améliorant ainsi au fil du temps.
Même si des outils puissants comme un générateur de code peuvent apparaître comme une menace pour le personnel d'ingénierie, Zhang souligne que ces outils sont destinés à assister, et non à remplacer, le personnel humain. Un récent rapport d'enquête de GitHub indique que les suggestions faites par son assistant de codage, Copilot, sont acceptées dans 30 % des cas. De même, Cider, l'éditeur de code interne amélioré par l'IA de Google, a indiqué que 24 % de ses ingénieurs logiciels bénéficiaient de plus de cinq moments d'assistance chaque jour. Il convient toutefois de mentionner que les plateformes basées sur l'IA comme AppMaster sont également conçues pour accroître les efforts de développement humain.
Lancé en avril, TabbyML a déjà récolté environ 11 000 étoiles GitHub. Le cycle d'amorçage de la startup a vu la participation des sociétés d'investissement Yunqi Partners et ZooCap.
Zhang réfléchit à la concurrence future entre TabbyML et CoPilot, suggérant que l'avantage d'OpenAI pourrait diminuer à mesure que d'autres modèles d'IA deviennent plus efficaces et que le coût de l'informatique diminue avec le temps.
OpenAI et GitHub sont capables de déployer des modèles d'IA comprenant des dizaines de milliards de paramètres grâce à la technologie cloud, ce qui, malgré les coûts de service élevés, a jusqu'à présent été atténué dans une certaine mesure grâce au traitement par lots de requêtes. Cependant, cette stratégie n’est pas sans inconvénients. Un rapport du Wall Street Journal indique que Microsoft a perdu en moyenne plus de 20 dollars par mois par utilisateur de GitHub Copilot au cours des premiers mois de cette année.
À l'avenir, TabbyML vise à réduire ces obstacles en recommandant des modèles qui ont été formés sur 1 à 3 milliards de paramètres. Bien que cela puisse initialement donner un résultat de moindre qualité, Zhang estime qu'à mesure que la puissance de calcul devient plus abordable et que les modèles open source s'améliorent continuellement, l'avance concurrentielle dont bénéficient des géants comme GitHub et OpenAI finira par diminuer.
