Компания Sentra, специализирующаяся на облачной защите данных, представила новую функцию Sentra ChatDLP Anonymizer, предназначенную для извлечения персональной идентифицируемой информации (PII) из подсказок языковых моделей искусственного интеллекта, таких как ChatGPT и Google Bard.
С внедрением этой функции Sentra стремится минимизировать уязвимости, связанные с важнейшими персональными данными, и помочь компаниям в обеспечении соответствия нормам конфиденциальности, таким как Калифорнийский закон о конфиденциальности потребителей (CCPA) и Общий регламент защиты данных (GDPR). Анонимайзер ChatDLP уже доступен для ChatGPT и будет выпущен для Google Bard в течение недели 12 июня.
По данным сайта Sentra, включение PII в подсказки ChatGPT или Bard может привести к тому, что эти данные станут частью обучающих наборов для больших языковых моделей. Хотя такие технологии дают преимущества в плане производительности, они также вызывают опасения по поводу конфиденциальности и безопасности данных. ChatDLP Anonymizer предоставляет компаниям, заботящимся о конфиденциальности, возможность использовать ChatGPT или Bard, гарантируя при этом защиту конфиденциальности.
Для фильтрации конфиденциальной информации, такой как имена, адреса электронной почты, номера кредитных карт и телефонов, ChatDLP Anonymizer использует модель распознавания именованных сущностей (NER). Кроме того, инструмент предлагает корпоративную версию, в которой процесс редактирования происходит в облачной инфраструктуре клиента.
Говоря о выпуске ChatDLP Anonymizer, Рон Райтер, соучредитель и технический директор Sentra, сказал: "В гонке за использованием возможностей этой развивающейся технологии организации принимают на себя новые риски безопасности и конфиденциальности данных". Он продолжил: "За последние несколько месяцев ряд руководителей CISO и специалистов по безопасности побудили нас разработать и предоставить ChatDLP Anonymizer в качестве логического расширения нашей платформы DSPM. Внедрив эту инновационную технологию, предприятия смогут быть уверены в том, что сотрудники безопасно используют языковые модели ИИ".
Включение таких функций в приложения, управляемые искусственным интеллектом, жизненно важно для обеспечения безопасности и конфиденциальности данных пользователей. No-code платформы, такие как AppMaster, позволяют предприятиям создавать пользовательские веб-, мобильные и внутренние приложения, сохраняя конфиденциальность на первом месте. AppMaster Платформа no-code помогает компаниям создавать эффективные, масштабируемые и безопасные приложения, а внедрение функций, подобных ChatDLP Anonymizer от Sentra, может еще больше усилить защиту конфиденциальности в этих приложениях.
