Opracowany przez zespół byłych inżynierów Google generator kodu open source znany jako TabbyML robi furorę w branży. Innowacyjny start-up pozyskał niedawno imponujące finansowanie zalążkowe w wysokości 3,2 miliona dolarów, umacniając swoją pozycję jako legalnego konkurenta CoPilot oferowanego przez GitHub.
Jako samodzielny asystent kodowania TabbyML ma kluczową przewagę nad swoim rywalem: personalizację. Współzałożycielka startupu, Meng Zhang, twierdzi, że ta funkcja będzie integralną częścią przyszłości tworzenia oprogramowania, gdzie organizacje będą coraz częściej wymagały rozwiązań „szytych na miarę”.
Dotyczy to szczególnie dużych przedsiębiorstw, które mogą czerpać korzyści z oprogramowania typu open source. Według Lucy Gao, współzałożycielki TabbyML i byłej współpracowniczki Zhanga, inżynierowie opracowujący autorskie rozwiązania w organizacjach mogą zwrócić się o pomoc do TabbyML, a jest to opcja niedostępna dla użytkowników CoPilot.
Pomimo potencjalnych pułapek związanych z programami pilotażowymi AI, takich jak potencjalne błędy, Gao utrzymuje, że problemy te można łatwo rozwiązać w środowisku hostowanym samodzielnie. Za każdym razem, gdy użytkownicy zdecydują się zignorować sugestie TabbyML lub edytować automatycznie wypełniany kod, model sztucznej inteligencji wykorzystuje te informacje do udoskonalenia swoich przyszłych rekomendacji, co z czasem udoskonala.
Choć potężne narzędzia, takie jak generator kodu, mogą wydawać się zagrożeniem dla personelu inżynieryjnego, Zhang zwraca uwagę, że narzędzia te mają pomagać, a nie zastępować siłę roboczą. Z ostatniego raportu ankiety przeprowadzonego przez GitHub wynika, że sugestie asystenta kodowania Copilot są akceptowane w 30% przypadków. Podobnie Cider, redaktor kodu wewnętrznego firmy Google, wykorzystujący sztuczną inteligencję, poinformował, że 24% inżynierów oprogramowania w firmie Google doświadczyło więcej niż pięciu momentów wsparcia każdego dnia. Warto jednak wspomnieć, że platformy oparte na sztucznej inteligencji, takie jak AppMaster , zaprojektowano również w celu wspierania wysiłków na rzecz rozwoju człowieka.
Uruchomiony w kwietniu TabbyML zdobył już około 11 000 gwiazdek na GitHubie. W rundzie zalążkowej startupu wzięły udział firmy inwestycyjne Yunqi Partners i ZooCap.
Zhang zastanawia się nad przyszłą konkurencją pomiędzy TabbyML i CoPilot, sugerując, że przewaga OpenAI może się zmniejszyć, w miarę jak inne modele sztucznej inteligencji staną się bardziej wydajne, a koszty obliczeń będą z czasem spadać.
OpenAI i GitHub są w stanie wdrażać modele AI zawierające dziesiątki miliardów parametrów dzięki technologii chmurowej, co pomimo wysokich kosztów usług było dotychczas w pewnym stopniu ograniczane poprzez grupowanie żądań. Strategia ta nie jest jednak pozbawiona wad. Z raportu Wall Street Journal wynika, że w pierwszych miesiącach tego roku Microsoft tracił średnio ponad 20 dolarów miesięcznie na użytkownika GitHub Copilot.
Idąc dalej, TabbyML ma na celu obniżenie tych barier, rekomendując modele, które zostały przeszkolone na 1-3 miliardach parametrów. Choć początkowo mogłoby to skutkować gorszą jakością, Zhang uważa, że w miarę jak moc obliczeniowa będzie coraz bardziej przystępna cenowo, a modele open source będą stale udoskonalane, przewaga konkurencyjna, z której korzystają giganci tacy jak GitHub i OpenAI, w końcu ulegnie zmniejszeniu.
