Clouddatabeveiligingsbedrijf Sentra heeft een nieuwe functie onthuld, Sentra ChatDLP Anonymizer, ontworpen om persoonlijk identificeerbare informatie (PII) te extraheren uit prompts van AI-taalmodellen, zoals ChatGPT en Google Bard.
Met de implementatie van deze functie wil Sentra kwetsbaarheden in verband met cruciale persoonsgegevens minimaliseren en bedrijven helpen bij het naleven van privacyregels zoals de California Consumer Privacy Act (CCPA) en de General Data Protection Regulation (GDPR). De ChatDLP Anonymizer is al beschikbaar voor ChatGPT en wordt in de week van 12 juni vrijgegeven voor Google Bard.
Volgens Sentra kan het opnemen van PII in ChatGPT of Bard prompts ertoe leiden dat de gegevens deel gaan uitmaken van de trainingssets voor grote taalmodellen. Hoewel dergelijke technologieën productiviteitsvoordelen bieden, geven ze ook aanleiding tot bezorgdheid over de privacy en beveiliging van gegevens. ChatDLP Anonymizer biedt privacybewuste bedrijven de mogelijkheid om ChatGPT of Bard te gebruiken en tegelijkertijd privacywaarborgen te garanderen.
Om gevoelige informatie zoals namen, e-mailadressen, creditcardnummers en telefoonnummers uit te filteren, maakt ChatDLP Anonymizer gebruik van een Named Entity Recognition (NER)-model. Daarnaast biedt de tool een bedrijfsversie waarin het redactieproces plaatsvindt binnen de cloudinfrastructuur van de klant.
Over de release van ChatDLP Anonymizer zei Ron Reiter, medeoprichter en CTO van Sentra: "In de race om te profiteren van de kracht van deze opkomende technologie, nemen organisaties nieuwe beveiligings- en dataprivacyrisico's op zich." Hij vervolgt: "In de afgelopen maanden werden we aangemoedigd door een aantal CISO's en beveiligingsprofessionals om ChatDLP Anonymizer te ontwikkelen en te leveren als logische uitbreiding op ons DSPM-platform. Door deze innovatieve technologie te implementeren, kunnen bedrijven erop vertrouwen dat werknemers AI-taalmodellen veilig gebruiken."
Het opnemen van dergelijke functies in AI-gestuurde toepassingen is van vitaal belang voor het behoud van de veiligheid en privacy van de gegevens van gebruikers. No-code platforms, zoals AppMaster, stellen bedrijven in staat om aangepaste web-, mobiele en back-endtoepassingen te maken, terwijl privacy voorop blijft staan. AppMaster Het no-code platform helpt bedrijven bij het maken van efficiënte, schaalbare en veilige applicaties en de introductie van functies zoals Sentra's ChatDLP Anonymizer kan de privacybescherming in deze applicaties verder verbeteren.
