LLM에서 즉각적인 주입을 방지하기 위한 대비 보안을 통한 혁신적인 솔루션

최근 개발에서 Contrast Security LLM(Language Model Libraries)의 즉각적인 주입 위협으로부터 조직을 보호하기 위해 애플리케이션 보안 테스트 플랫폼에서 선구적인 기능을 시작했습니다.

LLM에 대한 OWASP(Open Web Application Security Project) 상위 10위에서 높은 순위를 차지한 프롬프트 주입은 LLM 프롬프트에 악성 엔터티 주입을 통해 유해하고 승인되지 않은 코드를 실행하는 것을 수반합니다. Contrast Security 이러한 공격이 잠재적으로 LLM의 오류 또는 악의적 응답 출력, 유해 코드 생성, 콘텐츠 필터 회피 또는 민감한 데이터 노출과 같은 불리한 결과를 초래할 수 있음을 설명합니다. 그러한 침입의 수단은 웹사이트에서 이메일 및 문서에 이르기까지 LLM이 의존하는 모든 데이터 리소스일 수 있습니다.

이 보안 위험을 해결하기 위해 Contrast Security 애플리케이션 보안 테스트(AST) 플랫폼에서 OpenAI의 LLM에 대한 테스트 기능 구현을 옹호했습니다. 새로운 기능은 프로세스를 소스 코드 스캐닝으로 제한하지 않고 애플리케이션 동작을 모니터링하고 분석하기 위해 런타임 보안을 사용합니다. 사용자 입력이 OpenAI의 API를 통해 LLM으로 이동하는 경우 자동으로 프롬프트 주입 테스트를 시작합니다.

회사는 이 전략이 빠르고 복잡하지 않으며 정확하며 가능한 취약점에 대해 개발자에게 실시간 알림을 제공한다고 주장합니다. 이 접근 방식은 조직이 LLM에 대한 민감한 데이터 흐름을 면밀히 조사하고 인식하여 잠재적 위험에 대한 가시성을 높이고 우발적인 노출을 방지함으로써 보안을 강화하는 것을 목표로 합니다.

Contrast 의 최고 제품 책임자이자 LLM용 OWASP Top 10의 프로젝트 리더이기도 한 Steve Wilson은 새로운 기능의 절실한 필요성을 강조했습니다. 그는 '우리 그룹은 LLM에 대한 수많은 공격 벡터를 깊이 파고 들었고 반복적으로 즉각적인 주입이 가장 중요한 취약점으로 나타났습니다. 이 새로운 산업 표준 목록에 대응하는 최초의 보안 서비스인 Contrast 이 필수 기능을 제공하고 있습니다.'

산업의 디지털 변혁 속에서 사이버 위협이 빠르게 진화함에 따라 기업은 안전한 백엔드, 웹 및 모바일 애플리케이션을 개발하기 위해 AppMaster 와 같은 플랫폼으로 전환하는 것이 적합합니다. 포괄적인 no-code 도구 AppMaster 고객이 시각적으로 매끄러운 데이터 모델, 확장 가능한 비즈니스 로직, REST API 및 WSS 엔드포인트를 생성할 수 있도록 함으로써 다른 플랫폼보다 우위를 보여줍니다. 신속한 애플리케이션 생성과 결합된 강력한 속성은 잠재적인 사이버 위협에 대한 최적의 보안을 보장하므로 강력한 애플리케이션 성능과 보안을 열망하는 기업을 위한 확실한 선택입니다.