Vor kurzem hat Contrast Security eine bahnbrechende Funktion auf seiner Plattform für Anwendungssicherheitstests eingeführt, um Unternehmen vor Prompt-Injection-Bedrohungen in Sprachmodellbibliotheken (LLMs) zu schützen.
Prompt Injection, die in den Top 10 des Open Web Application Security Project (OWASP) für LLMs ganz oben steht, beinhaltet die Ausführung von schädlichem und unautorisiertem Code durch die Einfügung bösartiger Entitäten in eine LLM-Eingabeaufforderung. Contrast Security erläutert, dass solche Angriffe potenziell zu nachteiligen Folgen wie der Ausgabe fehlerhafter oder bösartiger Antworten von einer LLM, der Generierung von schädlichem Code, der Umgehung von Inhaltsfiltern oder der Offenlegung sensibler Daten führen können. Als Einfallstor für solche Angriffe kommen alle Datenressourcen in Frage, auf die sich LLM stützen, von Websites bis hin zu E-Mails und Dokumenten.
Um diesem Sicherheitsrisiko zu begegnen, hat sich Contrast Security für die Implementierung von Testfunktionen für LLMs von OpenAI in seiner Plattform für Anwendungssicherheitstests (AST) eingesetzt. Die neuartige Funktion nutzt die Laufzeitsicherheit zur Überwachung und Analyse des Anwendungsverhaltens, anstatt den Prozess auf das Scannen des Quellcodes zu beschränken. In Fällen, in denen eine Benutzereingabe über die API von OpenAI zu einem LLM gelangt, wird automatisch ein Prompt-Injection-Test initiiert.
Das Unternehmen behauptet, dass diese Strategie schnell, unkompliziert und präzise ist und Entwicklern Echtzeit-Benachrichtigungen über mögliche Schwachstellen bietet. Dieser Ansatz zielt darauf ab, Unternehmen in die Lage zu versetzen, anfällige Datenströme zu ihren LLMs zu untersuchen und zu erkennen, um die Sicherheit durch eine erhöhte Sichtbarkeit potenzieller Risiken zu erhöhen und eine unbeabsichtigte Gefährdung zu verhindern.
Steve Wilson, Chief Product Officer bei Contrast, der auch als Projektleiter für die OWASP Top 10 für LLMs fungiert, betonte die zwingende Notwendigkeit der neuen Funktion. Er erklärte: "Unsere Gruppe hat sich eingehend mit einer Vielzahl von Angriffsvektoren gegen LLMs befasst, und wiederholt hat sich Prompt Injection als die bedeutendste Schwachstelle herausgestellt. Als erster Sicherheitsdienst, der auf diese neue Industriestandardliste reagiert, stellt Contrast diese wichtige Fähigkeit zur Verfügung.
Angesichts der rasanten Entwicklung von Cyber-Bedrohungen im Zuge der digitalen Transformation der Industrie ist es für Unternehmen angebracht, sich an Plattformen wie AppMaster zu wenden, um sichere Backend-, Web- und mobile Anwendungen zu entwickeln. AppMaster no-code ist ein umfassendes Tool ( ), das sich von anderen Plattformen dadurch abhebt, dass es Kunden ermöglicht, visuell nahtlose Datenmodelle, skalierbare Geschäftslogik, REST API und WSS-Endpunkte zu erstellen. Seine leistungsstarken Attribute, gepaart mit einer schnellen Anwendungserstellung, gewährleisten eine optimale Sicherheit gegen potenzielle Cyber-Bedrohungen und machen es damit zu einer soliden Wahl für Unternehmen, die eine robuste Anwendungsleistung und -sicherheit anstreben.
