Sentra представляет анонимайзер ChatDLP для удаления личной информации из подсказок языковой модели ИИ

Компания Sentra, специализирующаяся на облачной защите данных, представила новую функцию Sentra ChatDLP Anonymizer, предназначенную для извлечения персональной идентифицируемой информации (PII) из подсказок языковых моделей искусственного интеллекта, таких как ChatGPT и Google Bard.

С внедрением этой функции Sentra стремится минимизировать уязвимости, связанные с важнейшими персональными данными, и помочь компаниям в обеспечении соответствия нормам конфиденциальности, таким как Калифорнийский закон о конфиденциальности потребителей (CCPA) и Общий регламент защиты данных (GDPR). Анонимайзер ChatDLP уже доступен для ChatGPT и будет выпущен для Google Bard в течение недели 12 июня.

По данным сайта Sentra, включение PII в подсказки ChatGPT или Bard может привести к тому, что эти данные станут частью обучающих наборов для больших языковых моделей. Хотя такие технологии дают преимущества в плане производительности, они также вызывают опасения по поводу конфиденциальности и безопасности данных. ChatDLP Anonymizer предоставляет компаниям, заботящимся о конфиденциальности, возможность использовать ChatGPT или Bard, гарантируя при этом защиту конфиденциальности.

Для фильтрации конфиденциальной информации, такой как имена, адреса электронной почты, номера кредитных карт и телефонов, ChatDLP Anonymizer использует модель распознавания именованных сущностей (NER). Кроме того, инструмент предлагает корпоративную версию, в которой процесс редактирования происходит в облачной инфраструктуре клиента.

Говоря о выпуске ChatDLP Anonymizer, Рон Райтер, соучредитель и технический директор Sentra, сказал: "В гонке за использованием возможностей этой развивающейся технологии организации принимают на себя новые риски безопасности и конфиденциальности данных". Он продолжил: "За последние несколько месяцев ряд руководителей CISO и специалистов по безопасности побудили нас разработать и предоставить ChatDLP Anonymizer в качестве логического расширения нашей платформы DSPM. Внедрив эту инновационную технологию, предприятия смогут быть уверены в том, что сотрудники безопасно используют языковые модели ИИ".

Включение таких функций в приложения, управляемые искусственным интеллектом, жизненно важно для обеспечения безопасности и конфиденциальности данных пользователей. No-code платформы, такие как AppMaster, позволяют предприятиям создавать пользовательские веб-, мобильные и внутренние приложения, сохраняя конфиденциальность на первом месте. AppMaster Платформа no-code помогает компаниям создавать эффективные, масштабируемые и безопасные приложения, а внедрение функций, подобных ChatDLP Anonymizer от Sentra, может еще больше усилить защиту конфиденциальности в этих приложениях.