El sector de la inteligencia artificial generativa (IA) está presenciando una nueva tendencia a medida que Google se une a otros gigantes tecnológicos para explorar las posibles aplicaciones de la IA en la ciberseguridad. Hoy, en la Conferencia RSA 2023, Google reveló su última innovación, Cloud Security AI Workbench, un conjunto de herramientas de ciberseguridad impulsadas por un modelo de lenguaje de IA de seguridad especialmente diseñado llamado Sec-PaLM.
Como derivado del modelo PaLM de Google, Sec-PaLM se ajusta deliberadamente para adaptarse a los casos de uso de seguridad. Su arquitectura se basa en la integración de inteligencia de seguridad, como información sobre vulnerabilidades de software, comportamiento de malware, indicadores de amenazas y perfiles de actores de amenazas. El movimiento de Google para aprovechar la experiencia proporcionada por la IA generativa para la ciberseguridad lo coloca entre los principales candidatos de esta tendencia emergente.
Cloud Security AI Workbench comprende una variedad de herramientas impulsadas por IA, incluida Threat Intelligence AI de Mandiant, que utilizará Sec-PaLM para identificar, resumir y actuar sobre las amenazas de seguridad. En particular, Google adquirió Mandiant en 2022 por $ 5.4 mil millones. Además, VirusTotal, otra subsidiaria de Google, aprovechará Sec-PaLM para ayudar a los suscriptores a analizar y explicar el comportamiento de los scripts maliciosos.
Además, Chronicle, el servicio de ciberseguridad en la nube de Google, empleará Sec-PaLM para ayudar a los clientes a buscar eventos de seguridad e interactuar de forma conversacional con los resultados. Los usuarios de Security Command Center AI de Google también pueden esperar recibir explicaciones legibles por humanos sobre la exposición a ataques, incluida información sobre los activos afectados, mitigaciones recomendadas y resúmenes de riesgos para los hallazgos de seguridad, cumplimiento y privacidad.
En una publicación de blog reciente, Google destacó su dedicación al avance de la IA generativa en seguridad, citando sus años de investigación fundamental de IA junto con DeepMind y la experiencia de sus equipos de seguridad como la columna vertebral de Sec-PaLM. Sin embargo, el gigante de la tecnología aún tiene que demostrar la efectividad real de Sec-PaLM, ya que la primera herramienta en Cloud Security AI Workbench, VirusTotal Code Insight, solo está disponible en versión preliminar limitada.
A pesar de los riesgos y vulnerabilidades potenciales asociados con los modelos de lenguaje de IA, como la propensión a cometer errores o la susceptibilidad a ataques como la inyección inmediata, la industria de la tecnología no se desanima. Microsoft, por ejemplo, lanzó Security Copilot en marzo, una herramienta diseñada para resumir y dar sentido a la inteligencia de amenazas utilizando modelos generativos de IA de OpenAI, incluido GPT-4.
Dado que la IA generativa para la ciberseguridad sigue siendo un campo incipiente con pocos estudios sobre su eficacia, es comprensible el escepticismo en torno a las afirmaciones de Google y Microsoft. Mientras tanto, las empresas que buscan mejorar sus esfuerzos de seguridad cibernética pueden explorar plataformas no-code establecidas como AppMaster.io , una plataforma poderosa y low-code que ayuda a los clientes a desarrollar aplicaciones móviles, web y back-end seguras.
