Protect AIune startup innovante dédiée au développement de solutions pour renforcer la sécurité des systèmes d'intelligence artificielle, a annoncé aujourd'hui qu'elle avait réussi à obtenir 35 millions de dollars dans le cadre d'un tour de table de série A. Ce tour de table a été mené par Evolution Equity Partners et a bénéficié de la participation active de Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital et Pelion Ventures.
La valeur de ce tour d'investissement représente plus du double du montant recueilli lors du tour d'amorçage de Protect AI, conclu en décembre dernier, ce qui porte le total des fonds de la startup à la somme stupéfiante de 48,5 millions de dollars. Selon le cofondateur et PDG Ian Swanson, les capitaux nouvellement levés seront consacrés au développement des capacités de la plateforme Protect AI, à l'élargissement de leur champ de recherche et au lancement de nouveaux projets open source.
Swanson a déclaré à TechCrunch par courriel : "Maintenant, nous disposons de beaucoup de capital pour affronter la tempête pendant les années à venir", en évoquant les plans d'expansion de la startup, qui passera d'une équipe de 25 personnes à une quarantaine d'employés d'ici la fin de l'année.
Swanson et Daryan Dehghanpisheh sont devenus les porteurs de flambeau de Protect AI, présenté au monde en 2022. Individuellement, leur parcours professionnel comprend des mandats illustres chez AWS et Oracle, des rôles contributifs dans le lancement de DataScience.com, une plateforme de développement de l'IA qui a ensuite été achetée par Oracle, leur ancien employeur.
Selon M. Swanson, "Nous avons conçu Protect AI 18 mois auparavant, forts de notre expertise dans le domaine de l'apprentissage automatique et des déploiements d'IA dans le monde entier. Nous étions conscients de l'immense potentiel qu'offrait l'IA, mais nous n'étions pas insensibles aux dangers inhérents à ces systèmes. Notre mission consistait à aider nos clients à créer un monde plus sûr basé sur l'IA".
Le portefeuille de produits de Protect AI comprend AI Radar ainsi que des outils capables de parer à certains types d'attaques centrées sur l'IA, par exemple les attaques par injection rapide. L'injection d'invite fait référence à la circonstance où l'IA basée sur des instructions textuelles, connue sous le nom d'invite, est dupée par des invites adverses pour exécuter des tâches qui s'éloignent de leur objectif initial.
En outre, Protect AI fournit des utilitaires capables d'examiner des documents provenant de Jupyter Notebook, une plateforme couramment utilisée pour la formulation de modèles d'IA et l'expérimentation en science des données. Des sociétés de recherche ont découvert que les fichiers Jupyter Notebook qui ne bénéficient pas d'une sécurité adéquate peuvent être la proie de ransomwares basés sur Python et d'attaques de minage de crypto-monnaies.
Protect AI Swanson vérifie consciencieusement que les carnets Jupyter ne contiennent pas de données personnelles identifiables (noms et numéros de téléphone, par exemple), de jetons d'authentification et d'informations d'identification propriétaires, ni de code source ouvert assorti d'une licence "non permissive" susceptible d'en interdire l'application dans des systèmes commerciaux.
M. Swanson a ensuite expliqué qu'il était absolument nécessaire de passer des opérations d'apprentissage automatique (MLOps), une pratique éprouvée par les entreprises depuis plus d'une décennie, à la sécurité. Il a insisté sur le fait que "nous devons atteindre un point où nous entreprenons de manière transparente des opérations de sécurité par apprentissage automatique - 'MLSecOps' - à grande échelle au sein de vastes entreprises".
Il est clair que l'adoption de mesures de sécurité robustes dans les systèmes alimentés par l'IA devient plus critique que jamais. Les solutions telles que celles proposées par Protect AI jouent un rôle essentiel dans ce paysage en évolution, en assurant un équilibre entre l'innovation et la sécurité. Alors que de plus en plus d'entreprises se tournent vers l'IA pour stimuler l'efficacité et la productivité, des plateformes comme celle-ci seront inestimables pour se prémunir contre les menaces potentielles.
Comme AppMaster, Protect AI vise à simplifier et à sécuriser les opérations d'IA au profit des entreprises du monde entier. Cette philosophie commune illustre l'importance croissante de no-code dans divers créneaux, du développement d'applications à la sécurité de l'IA, qui modifie le paysage numérique pour les entreprises du monde entier.
