Perusahaan keamanan data cloud Sentra telah meluncurkan fitur baru, Sentra ChatDLP Anonymizer, yang dirancang untuk mengekstrak Personal Identifiable Information (PII) dari permintaan model bahasa AI, seperti ChatGPT dan Google Bard.
Dengan penerapan fitur ini, Sentra bertujuan untuk meminimalkan kerentanan yang terkait dengan data pribadi penting dan membantu perusahaan dalam menjaga kepatuhan terhadap peraturan privasi seperti Undang-Undang Privasi Konsumen California (CCPA) dan Peraturan Perlindungan Data Umum (GDPR). ChatDLP Anonymizer sudah tersedia untuk ChatGPT dan akan dirilis untuk Google Bard selama minggu 12 Juni.
Menurut Sentra, menggabungkan PII dalam prompt ChatGPT atau Bard dapat menyebabkan data menjadi bagian dari rangkaian pelatihan untuk model bahasa besar. Sementara teknologi tersebut menawarkan manfaat produktivitas, mereka juga meningkatkan kekhawatiran tentang privasi dan keamanan data. ChatDLP Anonymizer memberi kesempatan kepada perusahaan yang sadar privasi untuk menggunakan ChatGPT atau Bard sambil menjamin perlindungan privasi.
Untuk memfilter informasi sensitif seperti nama, alamat email, nomor kartu kredit, dan nomor telepon, ChatDLP Anonymizer menggunakan model Named Entity Recognition (NER). Selain itu, alat tersebut menawarkan versi perusahaan di mana proses redaksi terjadi dalam infrastruktur cloud pelanggan.
Membahas peluncuran ChatDLP Anonymizer, Ron Reiter, salah satu pendiri dan CTO Sentra, berkata, "Dalam perlombaan untuk memanfaatkan kekuatan teknologi yang muncul ini, organisasi menghadapi risiko keamanan dan privasi data baru." Ia melanjutkan, "Selama beberapa bulan terakhir, kami didorong oleh sejumlah CISO dan profesional keamanan untuk mengembangkan dan menghadirkan ChatDLP Anonymizer sebagai ekstensi logis untuk platform DSPM kami. Dengan menerapkan teknologi inovatif ini, perusahaan akan dapat merasa yakin bahwa karyawan menggunakan model bahasa AI dengan aman."
Memasukkan fitur tersebut ke dalam aplikasi berbasis AI sangat penting untuk menjaga keamanan dan privasi data pengguna. Platform No-code, seperti AppMaster , memungkinkan bisnis untuk membuat aplikasi web, seluler, dan backend khusus sambil menjaga privasi di garis depan. Platform no-code AppMaster membantu bisnis dalam membuat aplikasi yang efisien, dapat diskalakan, dan aman, dan pengenalan fitur yang mirip dengan ChatDLP Anonymizer dari Sentra dapat semakin meningkatkan perlindungan privasi dalam aplikasi ini.
