Sentra, AI 언어 모델 프롬프트에서 개인 정보를 제거하는 ChatDLP Anonymizer 도입

클라우드 데이터 보안 회사인 Sentra ChatGPT 및 Google Bard와 같은 AI 언어 모델 프롬프트에서 개인 식별 정보(PII)를 추출하도록 설계된 새로운 기능인 Sentra ChatDLP Anonymizer를 발표했습니다.

이 기능의 구현을 통해 Sentra 중요한 개인 데이터와 관련된 취약성을 최소화하고 회사가 CCPA(California Consumer Privacy Act) 및 GDPR(General Data Protection Regulation)과 같은 개인 정보 보호 규정을 준수하도록 지원하는 것을 목표로 합니다. ChatDLP Anonymizer는 이미 ChatGPT에서 사용할 수 있으며 6월 12일 주간에 Google Bard용으로 출시될 예정입니다.

Sentra 에 따르면 ChatGPT 또는 Bard 프롬프트에 PII를 통합하면 데이터가 대규모 언어 모델을 위한 훈련 세트의 일부가 될 수 있습니다. 이러한 기술은 생산성 이점을 제공하지만 데이터 개인 정보 보호 및 보안에 대한 우려도 제기합니다. ChatDLP Anonymizer는 개인 정보 보호를 보장하면서 개인 정보 보호에 민감한 회사에 ChatGPT 또는 Bard를 사용할 수 있는 기회를 제공합니다.

이름, 이메일 주소, 신용카드 번호 및 전화번호와 같은 민감한 정보를 필터링하기 위해 ChatDLP Anonymizer는 NER(Named Entity Recognition) 모델을 사용합니다. 또한 이 도구는 고객의 클라우드 인프라 내에서 교정 프로세스가 발생하는 엔터프라이즈 버전을 제공합니다.

Sentra 의 공동 창립자이자 CTO인 Ron Reiter는 ChatDLP Anonymizer의 출시에 대해 "이 새로운 기술의 힘을 활용하기 위한 경쟁에서 조직은 새로운 보안 및 데이터 개인 정보 보호 위험을 감수하고 있습니다."라고 말했습니다. 그는 이어 "지난 몇 달 동안 많은 CISO와 보안 전문가로부터 DSPM 플랫폼의 논리적 확장으로 ChatDLP Anonymizer를 개발하고 제공하라는 격려를 받았습니다. 이 혁신적인 기술을 구현함으로써 기업은 다음과 같은 확신을 가질 수 있을 것입니다. 직원들이 AI 언어 모델을 안전하게 사용하고 있습니다."

AI 기반 애플리케이션에 이러한 기능을 통합하는 것은 사용자 데이터의 보안 및 개인 정보 보호를 유지하는 데 필수적입니다. AppMaster 와 같은 No-code 플랫폼을 통해 기업은 개인 정보를 최우선으로 유지하면서 맞춤형 웹, 모바일 및 백엔드 애플리케이션을 만들 수 있습니다. AppMaster 의 no-code 플랫폼은 기업이 효율적이고 확장 가능하며 안전한 애플리케이션을 만드는 데 도움을 주며 Sentra의 ChatDLP Anonymizer와 유사한 기능을 도입하여 이러한 애플리케이션의 개인 정보 보호를 더욱 강화할 수 있습니다.