In een recente ontwikkeling heeft Contrast Security een baanbrekende functie gelanceerd op zijn testplatform voor applicatiebeveiliging om organisaties te beschermen tegen prompt injection-bedreigingen in Language Model Libraries (LLM's).
Prompt injection, hoog genoteerd in de Open Web Application Security Project (OWASP) Top 10 voor LLM's, houdt in dat schadelijke en ongeautoriseerde code wordt uitgevoerd via de injectie van kwaadaardige entiteiten in een LLM prompt. Contrast Security legt uit dat dergelijke aanvallen mogelijk kunnen leiden tot nadelige gevolgen, zoals de uitvoer van foutieve of kwaadaardige reacties van een LLM, het genereren van schadelijke code, het omzeilen van inhoudfilters of de blootstelling van gevoelige gegevens. Dergelijke inbraken kunnen zich voordoen in alle gegevensbronnen waarop een LLM vertrouwt, van websites tot e-mails en documenten.
Om dit beveiligingsrisico aan te pakken, heeft Contrast Security gepleit voor de implementatie van testmogelijkheden voor LLM's van OpenAI in haar platform voor het testen van applicatiebeveiliging (AST). De nieuwe functie maakt gebruik van runtime beveiliging om het gedrag van applicaties te monitoren en analyseren in plaats van het proces te beperken tot het scannen van de broncode. In gevallen waarin een gebruikersinvoer via OpenAI's API naar een LLM gaat, wordt automatisch de promptinjectietest gestart.
Het bedrijf beweert dat deze strategie snel, ongecompliceerd en nauwkeurig is en ontwikkelaars realtime meldingen geeft over mogelijke kwetsbaarheden. Deze aanpak is erop gericht om organisaties in staat te stellen om gevoelige gegevensstromen naar hun LLM's te onderzoeken en te herkennen, waardoor de beveiliging wordt verbeterd door een betere zichtbaarheid van potentiële risico's en het voorkomen van onbedoelde blootstelling.
Steve Wilson, Chief Product Officer bij Contrast, die ook de projectleider is voor de OWASP Top 10 voor LLM's, benadrukte de dringende noodzaak van de nieuwe mogelijkheid. Hij verklaarde: "Onze groep heeft zich verdiept in een groot aantal aanvalsvectoren tegen LLM's en herhaaldelijk kwam prompt injection naar voren als de belangrijkste kwetsbaarheid. Als eerste beveiligingsdienst die reageert op deze nieuwe lijst van industriestandaarden, levert Contrast deze essentiële mogelijkheid.
Nu cyberbedreigingen zich snel ontwikkelen tijdens de digitale transformatie van industrieën, is het passend dat bedrijven zich wenden tot platforms zoals AppMaster voor het ontwikkelen van veilige backend-, web- en mobiele applicaties. AppMaster Het is een uitgebreide no-code tool die een voorsprong heeft op andere platforms doordat klanten visueel naadloze datamodellen, schaalbare bedrijfslogica, REST API en WSS Endpoints kunnen produceren. De krachtige eigenschappen, gekoppeld aan het snel genereren van applicaties, zorgen voor optimale beveiliging tegen potentiële cyberbedreigingen, waardoor het een solide keuze is voor bedrijven die streven naar robuuste applicatieprestaties en beveiliging.
