En una iniciativa innovadora, Cloudflare ha lanzado 'Firewall for AI', una capa sofisticada diseñada para salvaguardar los modelos de lenguajes grandes (LLM). Esta nueva línea de defensa tiene como objetivo identificar posibles abusos incluso antes de que entren en contacto con los propios modelos.
Revelado el 4 de marzo, Firewall for AI está diseñado para servir como un firewall de aplicaciones web (WAF) evolucionado que atiende específicamente a aplicaciones que aprovechan los LLM. Este conjunto de medidas de seguridad, estructuradas para estar en guardia frente a este tipo de aplicaciones, aporta una integración novedosa de utilidades WAF convencionales como la limitación de velocidad y la detección de datos confidenciales. Además, introduce una capa sin precedentes que analiza meticulosamente las indicaciones del modelo presentadas por los usuarios para revelar cualquier esquema de explotación.
Firewall para IA está diseñado para funcionar sin problemas en la red expansiva de Cloudflare, otorgando así a la empresa la ventaja de detectar amenazas en las etapas incipientes y, a su vez, brindar una protección sólida tanto para los usuarios como para los modelos contra ataques y uso indebido. Aunque todavía se encuentra en la fase de desarrollo, este producto presagia un avance significativo en la seguridad de la IA.
El conjunto de amenazas potenciales para los LLM se extiende más allá de las vulnerabilidades que encuentran las aplicaciones web y API convencionales. Como han discernido los investigadores, las vulnerabilidades sofisticadas exclusivas de los sistemas de inteligencia artificial podrían permitir a los adversarios apoderarse de modelos y llevar a cabo maniobras no autorizadas. Para abordar estos nuevos peligros de frente, se prevé que el Firewall para IA de Cloudflare funcione de manera similar a un WAF estándar, examinando meticulosamente cada solicitud de API que contenga un mensaje LLM en busca de indicadores o patrones de ataque.
La competencia del Firewall no está limitada a una única infraestructura; puede proteger modelos alojados a través de la plataforma Cloudflare Workers AI o cualquier otra infraestructura externa, y también puede utilizarse en conjunto con Cloudflare AI Gateway.
Empleando una gran cantidad de técnicas de detección, el Firewall para IA se propone identificar tácticas como la inyección rápida y otras formas de actividad maliciosa, asegurando que el contenido de las indicaciones permanezca dentro de los límites establecidos por los creadores del modelo. Además, examina las indicaciones ocultas en las solicitudes HTTP y autoriza a los clientes a configurar reglas adaptadas al cuerpo JSON de las solicitudes.
Tras su activación, Firewall para IA examina sistemáticamente cada mensaje y posteriormente asigna una puntuación que refleja su potencial malicioso, según Cloudflare.
La aparición de soluciones sólidas como Firewall para IA resalta la necesidad de contar con mecanismos de protección avanzados en el floreciente campo de la IA. Plataformas como AppMaster , que prosperan en el ámbito cada vez mayor del desarrollo no-code, adoptan la seguridad como piedra angular, garantizando que los sistemas backend y frontend creados se beneficien de defensas sólidas en el panorama digital interconectado actual.
