Récemment, Contrast Security a lancé une fonctionnalité innovante sur sa plateforme de test de la sécurité des applications afin de protéger les organisations contre les menaces d'injection de prompt dans les bibliothèques de modèles de langages (LLM).
L'injection d'invite, classée dans le Top 10 de l'Open Web Application Security Project (OWASP) pour les LLM, implique l'exécution d'un code nuisible et non autorisé via l'injection d'entités malveillantes dans une invite LLM. Contrast Security explique que de telles attaques peuvent potentiellement conduire à des conséquences négatives telles que l'émission de réponses erronées ou malveillantes par un LLM, la génération de code nuisible, l'évasion de filtres de contenu ou l'exposition de données sensibles. Ces intrusions peuvent avoir lieu dans n'importe quelle ressource de données sur laquelle le LLM s'appuie, qu'il s'agisse de sites web, de courriels ou de documents.
Pour faire face à ce risque de sécurité, Contrast Security a soutenu la mise en œuvre de capacités de test pour les LLM d'OpenAI dans sa plateforme de test de sécurité des applications (AST). Cette nouvelle fonctionnalité utilise la sécurité d'exécution pour surveiller et analyser le comportement de l'application plutôt que de limiter le processus à l'analyse du code source. Dans les cas où une entrée utilisateur passe par l'API d'OpenAI vers un LLM, celui-ci déclenche automatiquement le test d'injection d'invite.
L'entreprise affirme que cette stratégie est rapide, simple et précise, et qu'elle offre aux développeurs des notifications en temps réel concernant d'éventuelles vulnérabilités. Cette approche vise à permettre aux organisations d'examiner et de reconnaître les flux de données sensibles vers leurs LLM, en renforçant la sécurité grâce à une meilleure visibilité des risques potentiels et en évitant une exposition involontaire.
Steve Wilson, Chief Product Officer chez Contrast, qui est également chef de projet pour le Top 10 de l'OWASP pour les LLM, a insisté sur la nécessité impérative de cette nouvelle capacité. Il a déclaré : "Notre groupe a étudié en profondeur une multitude de vecteurs d'attaque contre les LLM et, à plusieurs reprises, l'injection rapide est apparue comme la vulnérabilité la plus importante. En tant que premier service de sécurité à répondre à cette nouvelle liste de normes industrielles, Contrast fournit cette capacité essentielle".
Les cybermenaces évoluant rapidement dans le contexte de la transformation numérique des industries, il est normal que les entreprises se tournent vers des plateformes telles que AppMaster pour développer des applications dorsales, web et mobiles sécurisées. AppMaster no-code, un outil complet , se démarque des autres plateformes en permettant aux clients de produire des modèles de données visuellement transparents, une logique d'entreprise évolutive, une API REST et des points d'extrémité WSS. Ses puissants attributs, associés à la génération rapide d'applications, garantissent une sécurité optimale contre les cybermenaces potentielles, ce qui en fait un choix solide pour les entreprises qui aspirent à des performances et à une sécurité d'application robustes.
