A empresa de segurança de dados em nuvem Sentra revelou um novo recurso, Sentra ChatDLP Anonymizer, projetado para extrair informações de identificação pessoal (PII) de prompts de modelos de linguagem de IA, como ChatGPT e Google Bard.
Com a implementação deste recurso, Sentra visa minimizar as vulnerabilidades associadas a dados pessoais cruciais e ajudar as empresas a manter a conformidade com os regulamentos de privacidade, como a Lei de Privacidade do Consumidor da Califórnia (CCPA) e o Regulamento Geral de Proteção de Dados (GDPR). O ChatDLP Anonymizer já está disponível para o ChatGPT e deverá ser lançado para o Google Bard durante a semana de 12 de Junho.
De acordo com Sentra, a incorporação de PII no ChatGPT ou nos prompts do Bard pode fazer com que os dados se tornem parte dos conjuntos de treino para grandes modelos linguísticos. Embora estas tecnologias ofereçam vantagens em termos de produtividade, também suscitam preocupações relativamente à privacidade e segurança dos dados. O ChatDLP Anonymizer oferece às empresas que se preocupam com a privacidade a oportunidade de utilizar o ChatGPT ou o Bard, garantindo a protecção da privacidade.
Para filtrar informações sensíveis, como nomes, endereços de correio electrónico, números de cartão de crédito e números de telefone, o ChatDLP Anonymizer utiliza um modelo de reconhecimento de entidades nomeadas (NER). Além disso, a ferramenta oferece uma versão empresarial na qual o processo de redação ocorre dentro da infraestrutura de nuvem do cliente.
Discutindo o lançamento do ChatDLP Anonymizer, Ron Reiter, co-fundador e CTO da Sentra, disse: "Na corrida para capitalizar o poder desta tecnologia emergente, as organizações estão a assumir novos riscos de segurança e privacidade de dados." E continuou: "Nos últimos meses, fomos incentivados por vários CISOs e profissionais de segurança a desenvolver e fornecer o ChatDLP Anonymizer como uma extensão lógica da nossa plataforma DSPM. Ao implementar esta tecnologia inovadora, as empresas poderão sentir-se confiantes de que os funcionários estão a utilizar modelos de linguagem de IA de forma segura."
A incorporação destas funcionalidades em aplicações baseadas em IA é vital para manter a segurança e a privacidade dos dados dos utilizadores. As plataformas No-code, como a AppMaster, permitem às empresas criar aplicações web, móveis e de backend personalizadas, mantendo a privacidade em primeiro plano. AppMaster A plataforma no-code da Sentra ajuda as empresas a criar aplicações eficientes, escaláveis e seguras, e a introdução de funcionalidades semelhantes ao ChatDLP Anonymizer da Sentra pode melhorar ainda mais a protecção da privacidade nestas aplicações.
