Công ty bảo mật dữ liệu đám mây Sentra đã tiết lộ một tính năng mới, Sentra ChatDLP Anonymizer, được thiết kế để trích xuất Thông tin nhận dạng cá nhân (PII) từ lời nhắc của các mô hình ngôn ngữ AI, chẳng hạn như ChatGPT và Google Bard.
Với việc triển khai tính năng này, Sentra nhằm mục đích giảm thiểu các lỗ hổng liên quan đến dữ liệu cá nhân quan trọng và hỗ trợ các công ty duy trì việc tuân thủ các quy định về quyền riêng tư như Đạo luật về quyền riêng tư của người tiêu dùng California (CCPA) và Quy định chung về bảo vệ dữ liệu (GDPR). Trình ẩn danh ChatDLP đã có sẵn cho ChatGPT và sẽ được phát hành cho Google Bard trong tuần của ngày 12 tháng 6.
Theo Sentra, việc kết hợp PII trong lời nhắc ChatGPT hoặc Bard có thể khiến dữ liệu trở thành một phần của tập huấn luyện cho các mô hình ngôn ngữ lớn. Mặc dù những công nghệ như vậy mang lại lợi ích về năng suất, nhưng chúng cũng gây lo ngại về quyền riêng tư và bảo mật dữ liệu. ChatDLP Anonymizer cung cấp cho các công ty quan tâm đến quyền riêng tư cơ hội sử dụng ChatGPT hoặc Bard trong khi đảm bảo các biện pháp bảo vệ quyền riêng tư.
Để lọc ra những thông tin nhạy cảm như tên, địa chỉ email, số thẻ tín dụng và số điện thoại, Trình ẩn danh ChatDLP sử dụng mô hình Nhận dạng thực thể được đặt tên (NER). Ngoài ra, công cụ này cung cấp phiên bản doanh nghiệp trong đó quy trình biên tập diễn ra trong cơ sở hạ tầng đám mây của khách hàng.
Thảo luận về việc phát hành ChatDLP Anonymizer, Ron Reiter, đồng sáng lập và CTO của Sentra, cho biết: "Trong cuộc đua tận dụng sức mạnh của công nghệ mới nổi này, các tổ chức đang phải đối mặt với những rủi ro mới về bảo mật và quyền riêng tư dữ liệu." Ông nói tiếp: "Trong vài tháng qua, chúng tôi đã được một số CISO và chuyên gia bảo mật khuyến khích phát triển và cung cấp ChatDLP Anonymizer như một phần mở rộng hợp lý cho nền tảng DSPM của chúng tôi. Bằng cách triển khai công nghệ tiên tiến này, các doanh nghiệp sẽ có thể cảm thấy tự tin rằng nhân viên đang sử dụng các mô hình ngôn ngữ AI một cách an toàn."
Việc kết hợp các tính năng như vậy trong các ứng dụng do AI điều khiển là rất quan trọng để duy trì tính bảo mật và quyền riêng tư cho dữ liệu của người dùng. Các nền tảng No-code, chẳng hạn như AppMaster , cho phép doanh nghiệp tạo các ứng dụng web, thiết bị di động và phụ trợ tùy chỉnh trong khi vẫn đặt quyền riêng tư lên hàng đầu. Nền tảng no-code của AppMaster hỗ trợ các doanh nghiệp tạo các ứng dụng hiệu quả, có thể mở rộng và an toàn, đồng thời giới thiệu các tính năng tương tự như ChatDLP Anonymizer của Sentra có thể nâng cao hơn nữa khả năng bảo vệ quyền riêng tư trong các ứng dụng này.
