전직 Google 엔지니어 팀이 개발한 TabbyML 로 알려진 오픈 소스 코드 생성기는 업계에 큰 파장을 일으키고 있습니다. 혁신적인 스타트업인 이 스타트업은 최근 320만 달러의 시드 자금을 확보하여 GitHub CoPilot의 합법적인 경쟁자로서의 입지를 강화했습니다.
자체 호스팅 코딩 도우미인 TabbyML 경쟁사에 비해 사용자 정의라는 주요 이점을 가지고 있습니다. 스타트업의 공동 창업자인 Meng Zhang은 이 기능이 조직이 점점 더 맞춤형 솔루션을 요구하게 되는 소프트웨어 개발의 미래에 필수적인 요소가 될 것이라고 주장합니다.
특히 오픈 소스 소프트웨어의 이점을 누릴 수 있는 대기업의 경우 더욱 그렇습니다. TabbyML 의 공동 창립자이자 Zhang의 전 동료인 Lucy Gao에 따르면 조직 내에서 독점 솔루션을 개발하는 엔지니어는 CoPilot 사용자가 사용할 수 없는 옵션인 TabbyML 통해 도움을 받을 수 있습니다.
잠재적인 버그 등 AI 파일럿과 관련된 잠재적인 함정에도 불구하고 Gao는 이러한 문제가 자체 호스팅 환경에서 쉽게 해결될 수 있다고 주장합니다. 사용자가 TabbyML 의 제안을 무시하거나 자동 완성 코드를 편집하기로 선택할 때마다 AI 모델은 이 정보를 사용하여 향후 권장 사항을 구체화하여 시간이 지남에 따라 개선됩니다.
코드 생성기와 같은 강력한 도구는 엔지니어링 인력에게 위협으로 보일 수 있지만 Zhang은 이러한 도구가 인력을 대체하는 것이 아니라 지원하기 위한 것이라고 지적합니다. GitHub의 최근 설문 조사 보고서에 따르면 코딩 도우미인 Copilot의 제안이 30%의 시간 동안 수락되는 것으로 나타났습니다. 마찬가지로 Google의 AI 강화 내부 코드 편집기인 Cider는 소프트웨어 엔지니어의 24%가 매일 5회 이상의 지원 순간을 경험했다고 보고했습니다. 그러나 AppMaster 와 같은 AI 기반 플랫폼도 인간 개발 노력을 강화하도록 설계되었다는 점은 언급할 가치가 있습니다.
4월에 출시된 TabbyML 이미 약 11,000개의 GitHub 스타를 획득했습니다. 스타트업의 시드 라운드에는 투자 회사인 Yunqi Partners와 ZooCap이 참여했습니다.
Zhang은 TabbyML 과 CoPilot 간의 미래 경쟁에 대해 숙고하면서 시간이 지남에 따라 다른 AI 모델이 더욱 효율적이고 컴퓨팅 비용이 감소함에 따라 OpenAI의 우위가 줄어들 수 있다고 제안합니다.
OpenAI와 GitHub는 클라우드 기술을 통해 수백억 개의 매개변수로 구성된 AI 모델을 배포할 수 있는데, 이는 높은 서비스 비용에도 불구하고 지금까지 요청 일괄 처리를 통해 어느 정도 완화되었습니다. 그러나 이 전략에도 단점이 없는 것은 아닙니다. Wall Street Journal의 보고서에 따르면 Microsoft는 올해 첫 몇 달 동안 GitHub Copilot 사용자당 매월 평균 20달러 이상의 손실을 입었습니다.
앞으로 TabbyML 10억~30억 개의 매개변수에 대해 훈련된 모델을 추천하여 이러한 장벽을 낮추는 것을 목표로 합니다. 처음에는 품질이 낮은 결과를 얻을 수 있지만 Zhang은 컴퓨팅 성능이 더욱 저렴해지고 오픈 소스 모델이 지속적으로 개선됨에 따라 GitHub 및 OpenAI와 같은 거대 기업이 누리는 경쟁 우위가 결국 줄어들 것이라고 믿습니다.