Der von einem Team ehemaliger Google-Ingenieure entwickelte Open-Source-Codegenerator namens TabbyML sorgt in der Branche für Aufsehen. Das innovative Startup hat sich kürzlich eine beeindruckende Startfinanzierung in Höhe von 3,2 Millionen US-Dollar gesichert und festigt damit seinen Platz als legitimer Konkurrent von GitHubs CoPilot.
Als selbst gehosteter Codierungsassistent verfügt TabbyML über einen entscheidenden Vorteil gegenüber seinem Konkurrenten: die Anpassung. Der Mitbegründer des Startups, Meng Zhang, behauptet, dass diese Funktion ein wesentlicher Bestandteil der Zukunft der Softwareentwicklung sein wird, in der Unternehmen zunehmend maßgeschneiderte Lösungen verlangen werden.
Dies gilt insbesondere für große Unternehmen, die von den Vorteilen von Open-Source-Software profitieren können. Laut Lucy Gao, Mitbegründerin von TabbyML und ehemalige Kollegin von Zhang, können sich Ingenieure, die proprietäre Lösungen in Organisationen entwickeln, an TabbyML wenden, um Unterstützung zu erhalten, eine Option, die CoPilot-Benutzern nicht zur Verfügung steht.
Trotz der potenziellen Fallstricke, die mit KI-Piloten verbunden sind, wie etwa potenzielle Fehler, vertritt Gao die Ansicht, dass diese Probleme in einer selbst gehosteten Umgebung leicht gelöst werden können. Immer wenn Benutzer die Vorschläge von TabbyML ignorieren oder den automatisch ausgefüllten Code bearbeiten, verwendet das KI-Modell diese Informationen, um seine zukünftigen Empfehlungen zu verfeinern und so mit der Zeit zu verbessern.
Während leistungsstarke Tools wie ein Codegenerator als Bedrohung für die Ingenieursarbeitskräfte erscheinen könnten, weist Zhang darauf hin, dass diese Tools die menschlichen Arbeitskräfte unterstützen und nicht ersetzen sollen. Ein aktueller Umfragebericht von GitHub zeigt, dass die Vorschläge seines Codierungsassistenten Copilot in 30 % der Fälle akzeptiert werden. In ähnlicher Weise berichtete der KI-gestützte interne Code-Editor Cider von Google, dass 24 % seiner Software-Ingenieure jeden Tag mehr als fünf unterstützende Momente erlebten. Es ist jedoch erwähnenswert, dass KI-gestützte Plattformen wie AppMaster auch darauf ausgelegt sind, die Bemühungen der menschlichen Entwicklung zu unterstützen.
TabbyML wurde im April gestartet und hat bereits rund 11.000 GitHub-Sterne gesammelt. An der Seed-Runde des Startups beteiligten sich die Investorenfirmen Yunqi Partners und ZooCap.
Zhang denkt über den zukünftigen Wettbewerb zwischen TabbyML und CoPilot nach und deutet an, dass der Vorsprung von OpenAI abnehmen könnte, da andere KI-Modelle effizienter werden und die Rechenkosten mit der Zeit sinken.
OpenAI und GitHub sind in der Lage, KI-Modelle mit Dutzenden Milliarden Parametern über Cloud-Technologie bereitzustellen, was trotz hoher Servicekosten bisher durch Request Batching zu einem gewissen Grad gemildert werden konnte. Allerdings ist diese Strategie nicht ohne Nachteile. Einem Bericht des Wall Street Journal zufolge hat Microsoft in den ersten Monaten dieses Jahres durchschnittlich mehr als 20 US-Dollar pro Monat pro GitHub Copilot-Benutzer verloren.
In Zukunft möchte TabbyML diese Hürden senken, indem es Modelle empfiehlt, die anhand von 1–3 Milliarden Parametern trainiert wurden. Während dies zunächst zu einem qualitativ schlechteren Ergebnis führen könnte, ist Zhang davon überzeugt, dass der Wettbewerbsvorsprung von Giganten wie GitHub und OpenAI mit zunehmender Erschwinglichkeit der Rechenleistung und kontinuierlicher Verbesserung der Open-Source-Modelle letztendlich abnehmen wird.
