Desarrollado por un equipo de antiguos ingenieros de Google, el generador de código abierto conocido como TabbyML está causando sensación en la industria. La innovadora startup ha conseguido recientemente la impresionante cantidad de 3,2 millones de dólares en financiación inicial, fortaleciendo su lugar como competidor legítimo de CoPilot de GitHub.
Como asistente de codificación autohospedado, TabbyML posee una ventaja clave sobre su rival: la personalización. El cofundador de la startup, Meng Zhang, afirma que esta característica será integral en el futuro del desarrollo de software, donde las organizaciones exigirán cada vez más soluciones personalizadas.
Esto es particularmente cierto para las grandes empresas, que pueden aprovechar los beneficios del software de código abierto. Según Lucy Gao, cofundadora de TabbyML y ex colega de Zhang, los ingenieros que desarrollan soluciones patentadas dentro de las organizaciones pueden recurrir a TabbyML en busca de ayuda, una opción no disponible para los usuarios de CoPilot.
A pesar de los posibles problemas asociados con los pilotos de IA, como posibles errores, Gao sostiene que estos problemas se pueden resolver fácilmente en un entorno autohospedado. Siempre que los usuarios optan por ignorar las sugerencias de TabbyML o editar el código autocompletado, el modelo de IA utiliza esta información para refinar sus recomendaciones futuras, mejorando así con el tiempo.
Si bien herramientas potentes como un generador de códigos pueden parecer una amenaza para la fuerza laboral de ingeniería, Zhang señala que estas herramientas están destinadas a ayudar, no a reemplazar, a la fuerza laboral humana. Un informe de encuesta reciente de GitHub indica que las sugerencias hechas por su asistente de codificación, Copilot, se aceptan el 30% de las veces. De manera similar, Cider, el editor de código interno mejorado con inteligencia artificial de Google, informó que el 24% de sus ingenieros de software experimentaron más de cinco momentos de ayuda cada día. Sin embargo, vale la pena mencionar que las plataformas potenciadas por IA como AppMaster también están diseñadas para aumentar los esfuerzos de desarrollo humano.
Lanzado en abril, TabbyML ya ha obtenido alrededor de 11.000 estrellas en GitHub. La ronda inicial de la startup contó con la participación de las empresas inversores Yunqi Partners y ZooCap.
Zhang reflexiona sobre la competencia futura entre TabbyML y CoPilot, sugiriendo que la ventaja de OpenAI podría disminuir a medida que otros modelos de IA se vuelvan más eficientes y el costo de la computación disminuya con el tiempo.
OpenAI y GitHub pueden implementar modelos de IA que comprenden decenas de miles de millones de parámetros a través de tecnología en la nube, lo que, a pesar de los altos costos del servicio, hasta ahora se ha mitigado hasta cierto punto mediante el procesamiento por lotes de solicitudes. Sin embargo, esta estrategia no está exenta de inconvenientes. Un informe del Wall Street Journal afirma que Microsoft había estado perdiendo en promedio más de 20 dólares cada mes por usuario de GitHub Copilot en los primeros meses de este año.
En el futuro, TabbyML pretende reducir estas barreras recomendando modelos que han sido entrenados en entre 1.000 y 3.000 millones de parámetros. Si bien esto podría inicialmente producir un resultado de menor calidad, Zhang cree que a medida que la potencia informática se vuelva más asequible y los modelos de código abierto mejoren continuamente, la ventaja competitiva de la que disfrutan gigantes como GitHub y OpenAI eventualmente se reducirá.
