In un recente sviluppo, Contrast Security ha lanciato una funzione pionieristica sulla sua piattaforma di test della sicurezza delle applicazioni per proteggere le organizzazioni dalle minacce di prompt injection nelle Language Model Libraries (LLM).
L'iniezione di prompt, classificata ai primi posti della Top 10 dell'Open Web Application Security Project (OWASP) per le LLM, comporta l'esecuzione di codice dannoso e non autorizzato tramite l'iniezione di entità dannose in un prompt di una LLM. Contrast Security chiarisce che tali attacchi potrebbero potenzialmente portare a conseguenze negative, come l'emissione di risposte errate o dannose da parte di una LLM, la generazione di codice dannoso, l'elusione di filtri di contenuto o l'esposizione di dati sensibili. Le vie di accesso a tali intrusioni possono essere tutte le risorse di dati su cui si basa l'LLM, dai siti web alle e-mail e ai documenti.
Per far fronte a questo rischio di sicurezza, Contrast Security ha promosso l'implementazione di funzionalità di testing per gli LLM di OpenAI nella sua piattaforma di application security testing (AST). Questa nuova funzionalità impiega la sicurezza del runtime per monitorare e analizzare il comportamento delle applicazioni, anziché limitare il processo alla scansione del codice sorgente. Nei casi in cui un input dell'utente passa attraverso l'API di OpenAI a un LLM, il test di prompt injection viene automaticamente attivato.
L'azienda afferma che questa strategia è rapida, semplice e precisa, e offre notifiche in tempo reale agli sviluppatori riguardo a possibili vulnerabilità. Questo approccio mira a consentire alle organizzazioni di esaminare e riconoscere i flussi di dati suscettibili verso i loro LLM, rafforzando la sicurezza attraverso una maggiore visibilità dei rischi potenziali e prevenendo l'esposizione involontaria.
Steve Wilson, Chief Product Officer di Contrast, che è anche il responsabile del progetto OWASP Top 10 per gli LLM, ha sottolineato la necessità imperativa di questa nuova funzionalità. Ha dichiarato: "Il nostro gruppo ha analizzato a fondo una moltitudine di vettori di attacco contro gli LLM e, ripetutamente, la prompt injection è emersa come la vulnerabilità più significativa. Come primo servizio di sicurezza a rispondere a questo nuovo elenco di standard industriali, Contrast sta fornendo questa capacità essenziale".
Con la rapida evoluzione delle minacce informatiche nel contesto della trasformazione digitale delle industrie, è opportuno che le aziende si rivolgano a piattaforme come AppMaster per sviluppare applicazioni backend, web e mobili sicure. AppMaster no-code è uno strumento completo che offre un vantaggio rispetto ad altre piattaforme, in quanto consente ai clienti di produrre modelli di dati visivamente omogenei, logica aziendale scalabile, API REST ed endpoint WSS. I suoi potenti attributi, uniti a una rapida generazione di applicazioni, garantiscono una sicurezza ottimale contro le potenziali minacce informatiche, rendendolo così una scelta solida per le aziende che aspirano a prestazioni e sicurezza delle applicazioni.
