La empresa de seguridad de datos en la nube Sentra ha presentado una nueva función, Sentra ChatDLP Anonymizer, diseñada para extraer información de identificación personal (PII) de las solicitudes de los modelos de lenguaje de IA, como ChatGPT y Google Bard.
Con la implementación de esta función, Sentra pretende minimizar las vulnerabilidades asociadas con datos personales cruciales y ayudar a las empresas a mantener el cumplimiento de las normativas de privacidad como la Ley de Privacidad del Consumidor de California (CCPA) y el Reglamento General de Protección de Datos (GDPR). ChatDLP Anonymizer ya está disponible para ChatGPT y se lanzará para Google Bard durante la semana del 12 de junio.
Según Sentra, la incorporación de la IPI en los avisos de ChatGPT o Bard puede dar lugar a que los datos pasen a formar parte de los conjuntos de entrenamiento de grandes modelos lingüísticos. Aunque estas tecnologías ofrecen ventajas en cuanto a productividad, también suscitan preocupación por la privacidad y la seguridad de los datos. ChatDLP Anonymizer ofrece a las empresas preocupadas por la privacidad la oportunidad de utilizar ChatGPT o Bard garantizando al mismo tiempo la protección de la privacidad.
Para filtrar información confidencial como nombres, direcciones de correo electrónico, números de tarjetas de crédito y números de teléfono, ChatDLP Anonymizer utiliza un modelo de reconocimiento de entidades con nombre (NER). Además, la herramienta ofrece una versión empresarial en la que el proceso de redacción tiene lugar dentro de la infraestructura en la nube del cliente.
En relación con el lanzamiento de ChatDLP Anonymizer, Ron Reiter, cofundador y CTO de Sentra, afirmó: "En la carrera por capitalizar el poder de esta tecnología emergente, las organizaciones están asumiendo nuevos riesgos para la seguridad y la privacidad de los datos". Y continuó: "En los últimos meses, varios CISO y profesionales de la seguridad nos animaron a desarrollar y ofrecer ChatDLP Anonymizer como una extensión lógica de nuestra plataforma DSPM. Al implementar esta innovadora tecnología, las empresas podrán sentirse seguras de que los empleados están utilizando modelos de lenguaje de IA de forma segura."
La incorporación de este tipo de funciones en las aplicaciones basadas en IA es vital para mantener la seguridad y privacidad de los datos de los usuarios. Las plataformas No-code, como AppMaster, permiten a las empresas crear aplicaciones web, móviles y backend personalizadas manteniendo la privacidad en primer plano. AppMaster La plataforma no-code de Sentra ayuda a las empresas a crear aplicaciones eficientes, escalables y seguras, y la introducción de funciones similares a ChatDLP Anonymizer de Sentra puede mejorar aún más la protección de la privacidad en estas aplicaciones.
