Recientemente, Contrast Security ha lanzado una función pionera en su plataforma de pruebas de seguridad de aplicaciones para proteger a las organizaciones de las amenazas de inyección de avisos en las bibliotecas de modelos de lenguaje (LLM).
La inyección de avisos, que ocupa un lugar destacado en el Top 10 de LLMs del Open Web Application Security Project (OWASP), implica la ejecución de código dañino y no autorizado a través de la inyección de entidades maliciosas en un aviso de LLM. Contrast Security aclara que tales ataques podrían tener consecuencias adversas, como la salida de respuestas erróneas o maliciosas de un LLM, la generación de código dañino, la evasión de filtros de contenido o la exposición de datos sensibles. Las vías para tales intrusiones pueden ser cualquier recurso de datos del que dependa un LLM, desde sitios web hasta correos electrónicos y documentos.
Para hacer frente a este riesgo de seguridad, Contrast Security ha defendido la implementación de capacidades de prueba para LLM de OpenAI en su plataforma de pruebas de seguridad de aplicaciones (AST). La novedosa función emplea la seguridad en tiempo de ejecución para supervisar y analizar el comportamiento de las aplicaciones en lugar de limitar el proceso al escaneado del código fuente. En los casos en que una entrada de usuario se desplaza a través de la API de OpenAI a un LLM, éste instiga automáticamente la prueba de inyección puntual.
La empresa afirma que esta estrategia es rápida, sencilla y precisa, y ofrece notificaciones en tiempo real a los desarrolladores sobre posibles vulnerabilidades. Este enfoque tiene como objetivo capacitar a las organizaciones para examinar y reconocer los flujos de datos susceptibles a sus LLM, reforzando la seguridad a través de una mayor visibilidad de los riesgos potenciales y la prevención de la exposición inadvertida.
Steve Wilson, Director de Productos de Contrast, que también dirige el proyecto OWASP Top 10 para LLM, destacó la necesidad imperiosa de esta nueva capacidad. Afirmó: "Nuestro grupo profundizó en una multitud de vectores de ataque contra los LLM y, en repetidas ocasiones, la inyección puntual surgió como la vulnerabilidad más significativa. Al ser el primer servicio de seguridad que responde a esta nueva lista estándar del sector, Contrast ofrece esta capacidad esencial".
Con la rápida evolución de las ciberamenazas en medio de la transformación digital de las industrias, es conveniente que las empresas recurran a plataformas como AppMaster para desarrollar aplicaciones backend, web y móviles seguras. AppMaster no-code, una herramienta integral de , muestra una ventaja sobre otras plataformas al permitir a los clientes producir modelos de datos visualmente fluidos, lógica empresarial escalable, API REST y puntos finales WSS. Sus potentes atributos, unidos a la rápida generación de aplicaciones, garantizan una seguridad óptima frente a posibles ciberamenazas, lo que la convierte en una opción sólida para las empresas que aspiran a un rendimiento y una seguridad sólidos de sus aplicaciones.
