Niedawno firma Contrast Security uruchomiła pionierską funkcję na swojej platformie testowania bezpieczeństwa aplikacji, aby chronić organizacje przed zagrożeniami typu prompt injection w bibliotekach modeli językowych (LLM).
Prompt injection, zajmujące wysokie miejsce w rankingu Open Web Application Security Project (OWASP) Top 10 dla LLM, wiąże się z wykonywaniem szkodliwego i nieautoryzowanego kodu poprzez wstrzykiwanie złośliwych jednostek w monicie LLM. Contrast Security wyjaśnia, że takie ataki mogą potencjalnie prowadzić do negatywnych konsekwencji, takich jak generowanie błędnych lub złośliwych odpowiedzi z LLM, generowanie szkodliwego kodu, omijanie filtrów treści lub ujawnianie wrażliwych danych. Źródłem takich włamań mogą być dowolne zasoby danych, na których opiera się LLM, od stron internetowych po wiadomości e-mail i dokumenty.
Wychodząc naprzeciw temu zagrożeniu bezpieczeństwa, Contrast Security jest orędownikiem wdrożenia możliwości testowania LLM z OpenAI na swojej platformie testowania bezpieczeństwa aplikacji (AST). Nowatorska funkcja wykorzystuje zabezpieczenia środowiska uruchomieniowego do monitorowania i analizowania zachowania aplikacji, zamiast ograniczać proces do skanowania kodu źródłowego. W przypadkach, gdy dane wejściowe użytkownika przechodzą przez API OpenAI do LLM, automatycznie uruchamia test wstrzyknięcia monitu.
Firma zapewnia, że strategia ta jest szybka, nieskomplikowana i precyzyjna, oferując programistom powiadomienia w czasie rzeczywistym dotyczące możliwych luk w zabezpieczeniach. Podejście to ma na celu umożliwienie organizacjom analizowania i rozpoznawania podatnych przepływów danych do ich LLM, wzmacniając bezpieczeństwo poprzez zwiększoną widoczność potencjalnych zagrożeń i zapobieganie nieumyślnemu narażeniu.
Steve Wilson, Chief Product Officer w Contrast, który pełni również funkcję lidera projektu OWASP Top 10 dla LLM, podkreślił konieczność wprowadzenia nowej funkcji. Stwierdził: "Nasza grupa dogłębnie przeanalizowała wiele wektorów ataków na LLM i wielokrotnie okazało się, że prompt injection jest najbardziej znaczącą luką. Jako pierwsza usługa bezpieczeństwa, która zareagowała na tę nową listę standardów branżowych, Contrast dostarcza tę niezbędną funkcję".
Ponieważ cyberzagrożenia szybko ewoluują w związku z cyfrową transformacją branż, firmy powinny zwrócić się do platform takich jak AppMaster w celu opracowania bezpiecznych aplikacji backendowych, internetowych i mobilnych. AppMaster Wszechstronne narzędzie no-code wykazuje przewagę nad innymi platformami, umożliwiając klientom tworzenie wizualnie płynnych modeli danych, skalowalnej logiki biznesowej, interfejsu API REST i punktów końcowych WSS. Jego potężne atrybuty, w połączeniu z szybkim generowaniem aplikacji, zapewniają optymalne bezpieczeństwo przed potencjalnymi zagrożeniami cybernetycznymi, co czyni go solidnym wyborem dla firm aspirujących do solidnej wydajności i bezpieczeństwa aplikacji.
