Protect AIuna empresa innovadora dedicada a desarrollar soluciones para reforzar la seguridad de los sistemas de inteligencia artificial, ha anunciado hoy que ha obtenido 35 millones de dólares en una ronda de financiación de serie A. La ronda fue liderada por Evolution Equity Partners y contó con la participación activa de Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital, y Pelion Ventures.
El valor de esta ronda de inversión es más del doble de la cantidad recaudada en la ronda de financiación inicial de Protect AI, concluida el pasado mes de diciembre, lo que en conjunto infla los fondos totales de la startup hasta la asombrosa cifra de 48,5 millones de dólares. Según su cofundador y consejero delegado, Ian Swanson, el nuevo capital se destinará a aumentar las capacidades de la plataforma Protect AI, ampliar su ámbito de investigación y poner en marcha nuevos proyectos de código abierto.
Swanson comunicó a TechCrunch por correo electrónico: "Ahora tenemos capital de sobra para capear el temporal en los años venideros", en referencia a los planes de expansión laboral de la empresa, que pasará de contar con un equipo de 25 miembros a unos 40 a finales de este año.
Swanson y Daryan Dehghanpisheh se convirtieron en los abanderados de Protect AI, presentada al mundo en 2022. Individualmente, su trayectoria profesional incluye estancias ilustres en AWS y Oracle, papeles que contribuyeron al lanzamiento de DataScience.com, una plataforma de desarrollo de IA adquirida posteriormente por Oracle, su antiguo empleador.
En palabras de Swanson: "Concebimos Protect AI 18 meses antes, aprovechando nuestra experiencia en las principales implantaciones de aprendizaje automático e IA en todo el mundo. Nuestras miras estaban puestas en el inmenso potencial que ofrecía la IA, pero no se apartaban de los peligros inherentes que albergaban estos sistemas. Nuestra misión giraba en torno a ayudar a nuestros clientes a crear un mundo más seguro basado en la IA".
La cartera de productos de Protect AI incluye AI Radar junto con herramientas expertas en la defensa contra ciertos tipos de ataques centrados en la IA, por ejemplo, los ataques de inyección inmediata. La inyección de instrucciones alude a la circunstancia en la que la IA basada en instrucciones de texto, conocida como prompt, es engañada por instrucciones adversas para ejecutar tareas que se desvían de su objetivo original.
Además, Protect AI proporciona utilidades que pueden examinar documentos de Jupyter Notebook, una plataforma muy utilizada para la formulación de modelos de IA y la experimentación científica de datos. Las empresas de investigación han descubierto que los archivos de Jupyter Notebook que carecen de la seguridad adecuada pueden ser presa de ataques de ransomware y minería de criptomonedas basados en Python.
Protect AI Swanson comprueba concienzudamente los cuadernos Jupyter en busca de diversos problemas potenciales: datos de identificación personal (por ejemplo, nombres y números de teléfono), tokens y credenciales de autenticación patentados y código fuente abierto con una licencia "no permisiva" capaz de impedir su aplicación en sistemas comerciales.
Swanson se refirió además a la imperiosa necesidad de pasar de las operaciones de aprendizaje automático (MLOps), una práctica probada desde hace más de una década por las empresas, a la adopción de la seguridad. Insistió: "Debemos llegar a un punto en el que emprendamos sin problemas operaciones de seguridad ML -'MLSecOps'- a gran escala dentro de vastas empresas".
Está claro que la adopción de medidas de seguridad sólidas en los sistemas impulsados por IA se está volviendo más crítica que nunca. Soluciones como las que ofrece Protect AI desempeñan un papel fundamental en este panorama cambiante, garantizando un equilibrio entre innovación y seguridad. A medida que más empresas recurren a la IA para impulsar la eficiencia y la productividad, este tipo de plataformas serán muy valiosas para protegerse frente a posibles amenazas.
Al igual que AppMaster, Protect AI pretende simplificar y proteger las operaciones de IA en beneficio de las empresas de todo el mundo. Esta ética compartida pone de manifiesto la creciente importancia de no-code en diversos nichos, desde el desarrollo de aplicaciones hasta la seguridad de la IA, cambiando el panorama digital para las empresas de todo el mundo.
