La société de sécurité des données dans le cloud Sentra a dévoilé une nouvelle fonctionnalité, Sentra ChatDLP Anonymizer, conçue pour extraire les informations personnelles identifiables (PII) des invites des modèles de langage de l'IA, tels que ChatGPT et Google Bard.
Avec la mise en œuvre de cette fonctionnalité, Sentra vise à minimiser les vulnérabilités associées aux données personnelles cruciales et à aider les entreprises à maintenir la conformité avec les réglementations sur la protection de la vie privée telles que la loi californienne sur la protection des consommateurs (CCPA) et le règlement général sur la protection des données (GDPR). L'anonymiseur ChatDLP est déjà disponible pour ChatGPT et devrait être lancé pour Google Bard au cours de la semaine du 12 juin.
Selon Sentra, l'incorporation des IIP dans les messages-guides de ChatGPT ou de Bard peut avoir pour conséquence que les données fassent partie des ensembles d'entraînement pour les grands modèles de langage. Si ces technologies offrent des avantages en termes de productivité, elles soulèvent également des inquiétudes quant à la confidentialité et à la sécurité des données. ChatDLP Anonymizer permet aux entreprises soucieuses de la protection de la vie privée d'utiliser ChatGPT ou Bard tout en garantissant la protection de la vie privée.
Pour filtrer les informations sensibles telles que les noms, les adresses électroniques, les numéros de carte de crédit et les numéros de téléphone, ChatDLP Anonymizer utilise un modèle de reconnaissance d'entités nommées (NER). En outre, l'outil propose une version entreprise dans laquelle le processus de rédaction se déroule au sein de l'infrastructure en nuage du client.
À propos du lancement de ChatDLP Anonymizer, Ron Reiter, cofondateur et directeur technique de Sentra, a déclaré : "Dans la course pour capitaliser sur la puissance de cette technologie émergente, les organisations s'exposent à de nouveaux risques en matière de sécurité et de confidentialité des données". Il poursuit : "Au cours des derniers mois, nous avons été encouragés par un certain nombre de RSSI et de professionnels de la sécurité à développer et à fournir ChatDLP Anonymizer en tant qu'extension logique de notre plateforme DSPM. En mettant en œuvre cette technologie innovante, les entreprises seront en mesure de s'assurer que les employés utilisent les modèles de langage de l'IA en toute sécurité."
L'intégration de telles fonctionnalités dans les applications basées sur l'IA est essentielle pour maintenir la sécurité et la confidentialité des données des utilisateurs. Les plateformes No-code, telles qu'AppMaster, permettent aux entreprises de créer des applications web, mobiles et dorsales personnalisées tout en gardant la confidentialité au premier plan. AppMaster La plateforme no-code de Sentra aide les entreprises à créer des applications efficaces, évolutives et sécurisées, et l'introduction de fonctions similaires au ChatDLP Anonymizer de Sentra peut encore améliorer la protection de la vie privée dans ces applications.
