Cloudflare, 대규모 언어 모델을 보호하기 위한 AI용 방화벽 공개

Cloudflare 획기적인 이니셔티브로 LLM(대형 언어 모델)을 보호하도록 설계된 정교한 계층인 'AI용 방화벽'을 출시했습니다. 이 새로운 방어선은 모델 자체와 접촉하기 전에 잠재적인 남용을 찾아내는 것을 목표로 합니다.

3월 4일에 공개된 AI용 방화벽은 특히 LLM을 활용하는 애플리케이션에 맞춰 진화된 웹 애플리케이션 방화벽(WAF) 역할을 하도록 설계되었습니다. 이러한 애플리케이션을 미리 보호하도록 구성된 이 보안 조치 제품군은 속도 제한 및 민감한 데이터 탐지와 같은 기존 WAF 유틸리티의 새로운 통합을 제공합니다. 또한 사용자가 제시한 모델 프롬프트를 꼼꼼하게 분석하여 악용 계획을 공개하는 전례 없는 레이어를 도입합니다.

AI용 방화벽은 Cloudflare 의 광범위한 네트워크에서 원활하게 작동하도록 설계되어 회사에 초기 단계에서 위협을 감지할 수 있는 이점을 제공하고 결과적으로 공격 및 오용으로부터 사용자와 모델 모두를 강력하게 보호합니다. 아직 개발 단계에 있지만, 이 제품은 AI 보안의 획기적인 발전을 예고합니다.

LLM에 대한 잠재적인 위협은 기존 웹 및 API 애플리케이션이 직면하는 취약점을 넘어 확장됩니다. 연구자들이 파악한 바와 같이 AI 시스템 고유의 정교한 취약성으로 인해 공격자가 모델을 지휘하고 무단 기동을 수행할 수 있습니다. 이러한 새로운 위험에 정면으로 대처하는 Cloudflare 의 AI용 방화벽은 표준 WAF와 유사하게 작동하여 지표 또는 공격 패턴에 대한 LLM 프롬프트가 포함된 모든 API 요청을 꼼꼼하게 검사할 것으로 예상됩니다.

방화벽의 역량은 단일 인프라에 국한되지 않습니다. Cloudflare Workers AI 플랫폼이나 기타 외부 인프라를 통해 호스팅되는 모델을 보호할 수 있으며 Cloudflare AI Gateway와 함께 활용할 수도 있습니다.

다양한 탐지 기술을 사용하는 AI용 방화벽은 프롬프트 삽입 및 기타 형태의 악의적 활동과 같은 전략을 식별하여 프롬프트 내용이 모델 작성자가 설정한 범위 내에 유지되도록 합니다. 또한 HTTP 요청 내에 숨겨진 프롬프트를 면밀히 조사하고 고객에게 요청의 JSON 본문에 맞는 규칙을 구성할 수 있는 권한을 부여합니다.

Cloudflare 에 따르면 활성화되면 AI용 방화벽은 각 프롬프트를 체계적으로 검사한 후 악의적일 가능성을 반영하는 점수를 할당합니다.

AI용 방화벽과 같은 강력한 솔루션의 출현은 급성장하는 AI 분야에서 고급 보호 메커니즘의 필요성을 강조합니다. 끊임없이 확장되는 no-code 개발 영역에서 번창하는 AppMaster 와 같은 플랫폼은 보안을 초석으로 수용하여 생성된 백엔드 및 프런트엔드 시스템이 오늘날의 상호 연결된 디지털 환경에서 강력한 방어의 이점을 누릴 수 있도록 보장합니다.