De open-source codegenerator, bekend als TabbyML, is ontwikkeld door een team voormalige Google-ingenieurs en maakt furore in de branche. De innovatieve startup heeft onlangs een indrukwekkende $3,2 miljoen aan startfinanciering binnengehaald, waardoor zijn positie als legitieme concurrent van GitHub's CoPilot wordt versterkt.
Als zelfgehoste codeerassistent beschikt TabbyML over een belangrijk voordeel ten opzichte van zijn rivaal: maatwerk. De mede-oprichter van de startup, Meng Zhang, beweert dat deze functie een integraal onderdeel zal zijn van de toekomst van softwareontwikkeling, waarin organisaties steeds meer op maat gemaakte oplossingen zullen eisen.
Dit geldt met name voor grote ondernemingen, die de vruchten kunnen plukken van open source-software. Volgens Lucy Gao, medeoprichter van TabbyML en voormalig collega van Zhang, kunnen ingenieurs die eigen oplossingen binnen organisaties ontwikkelen, zich voor hulp wenden tot TabbyML, een optie die niet beschikbaar is voor CoPilot-gebruikers.
Ondanks de potentiële valkuilen die gepaard gaan met AI-pilots, zoals potentiële bugs, beweert Gao dat deze problemen gemakkelijk kunnen worden opgelost in een zelfgehoste omgeving. Wanneer gebruikers ervoor kiezen om de suggesties van TabbyML te negeren of de automatisch ingevulde code te bewerken, gebruikt het AI-model deze informatie om toekomstige aanbevelingen te verfijnen, waardoor deze in de loop van de tijd verbeteren.
Hoewel krachtige tools zoals een codegenerator een bedreiging kunnen vormen voor de technische beroepsbevolking, wijst Zhang erop dat deze tools bedoeld zijn om de menselijke beroepsbevolking te ondersteunen en niet te vervangen. Uit een recent onderzoeksrapport van GitHub blijkt dat de suggesties van de codeerassistent Copilot in 30% van de gevallen worden geaccepteerd. Op dezelfde manier meldde Cider, de door AI ondersteunde interne code-editor van Google, dat 24% van de software-ingenieurs elke dag meer dan vijf ondersteunende momenten ervoer. Het is echter de moeite waard te vermelden dat door AI ondersteunde platforms zoals AppMaster ook zijn ontworpen om de menselijke ontwikkelingsinspanningen te vergroten.
TabbyML werd gelanceerd in april en heeft al ongeveer 11.000 GitHub-sterren verzameld. De startronde van de startup was getuige van de deelname van investeringsfirma's Yunqi Partners en ZooCap.
Zhang denkt na over de toekomstige concurrentie tussen TabbyML en CoPilot, en suggereert dat de voorsprong van OpenAI zou kunnen afnemen naarmate andere AI-modellen efficiënter worden en de computerkosten in de loop van de tijd afnemen.
OpenAI en GitHub zijn in staat AI-modellen in te zetten die tientallen miljarden parameters omvatten via cloudtechnologie, die, ondanks de hoge servicekosten, tot nu toe tot op zekere hoogte is verzacht door het batchen van verzoeken. Deze strategie is echter niet zonder nadelen. Uit een rapport van de Wall Street Journal blijkt dat Microsoft in de eerste paar maanden van dit jaar gemiddeld meer dan $20 per maand per GitHub Copilot-gebruiker verloor.
In de toekomst wil TabbyML deze barrières verlagen door modellen aan te bevelen die zijn getraind op 1-3 miljard parameters. Hoewel dit in eerste instantie een resultaat van lagere kwaliteit zou kunnen opleveren, gelooft Zhang dat naarmate rekenkracht betaalbaarder wordt en open-sourcemodellen voortdurend verbeteren, de concurrentievoorsprong van giganten als GitHub en OpenAI uiteindelijk zal afnemen.
