Le régulateur britannique des données met en garde les entreprises technologiques contre les problèmes de protection des données de l'IA générative

Au milieu des inquiétudes concernant la protection des données de l'IA générative, l'Information Commission's Office (ICO) du Royaume-Uni rappelle aux entreprises technologiques de respecter les lois sur la protection des données. Cela survient peu de temps après que le régulateur italien de la confidentialité des données a interdit l'utilisation de ChatGPT, alléguant des violations de la vie privée.

L'ICO a publié un article de blog soulignant aux organisations que les réglementations sur la protection des données sont toujours en vigueur, même si les informations personnelles traitées proviennent de ressources accessibles au public. Stephen Almond, directeur de la technologie et de l'innovation d'ICO, a exhorté les organisations développant ou utilisant l'IA générative à adopter dès le départ une approche de protection des données dès la conception et par défaut .

Dans sa déclaration, Almond a souligné que les organisations travaillant avec des données personnelles à des fins d'IA générative doivent envisager leur base légale pour le traitement des données personnelles. Ils doivent également réfléchir à la manière dont ils peuvent réduire les risques de sécurité et traiter les demandes de droits individuels. Almond insiste sur le fait qu'il n'y a aucune justification pour négliger les implications de l'IA générative sur la vie privée.

Outre l'ICO et le régulateur italien des données, d'autres personnalités notables ont exprimé leurs inquiétudes concernant les risques potentiels de l'IA générative. Le mois dernier, plus de 1 100 leaders technologiques, dont le co-fondateur d'Apple Steve Wozniak et l'entrepreneur Elon Musk, ont appelé à une pause de six mois dans le développement de systèmes d'IA plus puissants que le GPT-4 d'OpenAI. Dans une lettre ouverte, les signataires ont mis en garde contre un avenir dystopique, se demandant si l'IA avancée pourrait entraîner une perte de contrôle sur notre civilisation et les menaces possibles pour la démocratie par le biais de chatbots diffusant de la propagande et de fausses nouvelles sur les plateformes de médias sociaux. Ils ont également fait part de leurs inquiétudes concernant l'automatisation des tâches par l'IA, y compris celles qui sont épanouissantes.

La réglementation de l'IA présente un défi unique car l'innovation évolue à un rythme rapide, dépassant la vitesse des mesures réglementaires. Frank Buytendijk, analyste chez Gartner, a souligné que des réglementations trop spécifiques pourraient perdre de leur efficacité une fois que la technologie progresse, tandis que les réglementations de haut niveau ont du mal à être claires. Il a estimé que l'érosion de la confiance et de l'acceptation sociale résultant d'erreurs coûteuses, plutôt que la réglementation, pourrait inhiber l'innovation en IA. Néanmoins, la réglementation de l'IA qui exige que les modèles soient vérifiés pour les biais et que les algorithmes soient rendus plus transparents peut stimuler l'innovation pour détecter les biais et atteindre la transparence et l'explicabilité, a ajouté Buytendijk.

À la lumière de ces préoccupations, les plates-formes de développement no-code et low-code, comme AppMaster, visent à simplifier le développement d'applications tout en donnant la priorité à la protection, à la sécurité et à la conformité des données. En créant des applications backend, Web et mobiles sans générer de dette technique, les utilisateurs peuvent développer efficacement des solutions logicielles évolutives complètes avec serveur backend, sites Web, portails clients et applications mobiles natives. Adopter une utilisation responsable de l'IA garantit que l'innovation ne se fait pas au détriment de la confidentialité et de la sécurité, permettant à l'industrie technologique de prospérer de manière responsable.