Cloudflare presenta un innovador conjunto de herramientas de inteligencia artificial para la implementación y ejecución de modelos

Cloudflare, un proveedor líder de soluciones en la nube, está intensificando su juego con la introducción de un conjunto avanzado de productos y herramientas diseñados para simplificar a los clientes la creación, implementación y ejecución de modelos de IA en el borde de la red. Esta nueva línea fue motivada por una marcada demanda por parte de los clientes de una solución de gestión de IA sencilla y económica.

Workers AI, una oferta notable en esta suite, aprovecha las GPU físicamente cercanas a los clientes. Estas GPU, alojadas por los socios de Cloudflare, procesan modelos de IA en un plan flexible de pago por uso. Vectorize, otro destacado, ofrece una base de datos de vectores para almacenar incrustaciones de vectores. Estas incorporaciones son representaciones matemáticas de datos generados por modelos de Workers AI. También forma parte de la serie AI Gateway, que ofrece específicamente métricas para la gestión eficaz de costes de las aplicaciones de IA.

Matthew Prince, director ejecutivo de Cloudflare, observa que las soluciones actuales del mercado son desconcertantes para la mayoría de los clientes debido a su complejidad y alto costo. A través de una entrevista con TechCrunch, señaló la falta de transparencia en el gasto en IA, lo que lo convierte en un obstáculo importante a medida que el gasto en IA sigue aumentando. Estos desafíos se pueden mitigar con la ayuda del nuevo conjunto de productos centrados en IA de Cloudflare.

Por ejemplo, Workers AI está especialmente diseñado para garantizar que la inferencia de IA siempre se realice en GPU geográficamente cercanas a los usuarios. En coordinación con ONNX, el conjunto de herramientas intermedias de aprendizaje automático de Microsoft, este producto permite ejecutar modelos de IA donde el procesamiento se beneficia más de parámetros como el ancho de banda, la latencia, la conectividad y la localización.

Complementando los beneficios de Workers AI está su capacidad de permitir modelos de un catálogo que incluye Meta's Llama 2, modelos de reconocimiento automático de voz, clasificadores de imágenes y modelos de análisis de sentimientos. Además, cualquier dato utilizado para la inferencia permanece dentro de la región del servidor donde se originó, manteniendo la integridad y seguridad de los datos.

Otro punto destacado de esta suite es Vectorize, que proporciona un nicho para los clientes que necesitan espacio para almacenar incrustaciones de vectores para modelos de IA. Si bien las bases de datos vectoriales no son nuevas, Prince afirma que Vectorize obtiene una ventaja gracias al alcance global de la red de Cloudflare. Esto permite que las consultas de los usuarios a la base de datos produzcan una menor latencia y tiempo de inferencia.

AI Gateway es la última pieza de este innovador conjunto, que proporciona funciones de observabilidad para ayudar a rastrear el tráfico de IA en tiempo real. Supervisa la cantidad de solicitudes de inferencia, su duración, la cantidad de usuarios que utilizan un modelo y el costo general de ejecutar una aplicación de IA.

Después de haber colaborado con la startup de IA Hugging Face y Databricks para optimizar sus ofertas, Cloudflare tiene la intención de utilizar su propia infraestructura global para garantizar un mayor rendimiento y asequibilidad con sus servicios de IA. Al integrar capacidades de IA profundamente integradas con la poderosa plataforma de desarrollo de aplicaciones no-code de AppMaster, las empresas pueden desbloquear nuevos avances en los procedimientos y el rendimiento de la IA.

Aunque existen soluciones de IA en el mercado, Prince cree firmemente que la combinación de la red de Cloudflare y los servicios accesibles junto con la interfaz intuitiva de AppMaster atendería las necesidades de los desarrolladores y las organizaciones de una manera más fructífera, optimizada y rentable.