Suite à une récente lettre ouverte demandant l'arrêt du développement d'un modèle d'IA générative plus avancé, l'autorité italienne de protection des données (DPA) a pris des mesures rapides en ordonnant à OpenAI de cesser de traiter les données des personnes localement. Invoquant des violations potentielles du règlement général sur la protection des données (RGPD) de l'Union européenne, l'APD italienne a lancé une enquête à ce sujet.
La DPA s'est dite préoccupée par le fait qu'OpenAI ait pu traiter illégalement les données des personnes et n'ait pas mis en œuvre les mesures appropriées pour empêcher les mineurs d'accéder à leur technologie. En conséquence, la société basée à San Francisco fait face à un blocage de son système ChatGPT et dispose de 20 jours pour répondre à la commande. Les infractions au RGPD peuvent entraîner de lourdes amendes, s'élevant soit à 4 % du chiffre d'affaires annuel d'une entreprise, soit à 20 millions d'euros, selon le montant le plus élevé.
Il est important de noter qu'OpenAI n'ayant pas d'entité juridique au sein de l'UE, toute autorité locale de protection des données peut intervenir dans le cadre du RGPD. Par conséquent, d'autres pays pourraient envisager de suivre l'exemple de l'Italie pour faire face aux risques potentiels pour leurs citoyens. Le GDPR s'applique lorsque les données personnelles des utilisateurs de l'UE sont traitées. Cependant, la technologie utilisée par OpenAI crée des scénarios complexes impliquant des quantités massives de traitement de données qui remettent en cause la légalité de leurs méthodes.
D'autres préoccupations concernant le RGPD émergent, étant donné qu'il a été constaté que ChatGPT génère des informations entièrement fausses sur les individus, ce qui complique potentiellement la rectification des erreurs. OpenAI n'a pas précisé si les utilisateurs peuvent demander des corrections d'informations incorrectes produites par leur bot AI. Les violations de données, un autre domaine réglementé par le RGPD, jouent également un rôle dans la situation, après qu'OpenAI a récemment admis avoir divulgué des données de chat et potentiellement exposé les informations de paiement des utilisateurs.
Les principes de minimisation des données intégrés au RGPD, qui mettent l'accent sur la transparence et l'équité, remettent en question la base légale d'OpenAI pour le traitement des données européennes. Si un traitement illégal est déterminé, les autorités de protection des données de l'Union peuvent ordonner à OpenAI de supprimer les données. Les répercussions d'une telle décision sur le recyclage nécessaire des modèles restent incertaines.
La DPA italienne fait également part de ses inquiétudes concernant le traitement par OpenAI des données des mineurs. La société n'a pas encore mis en place de technologie de vérification de l'âge pour empêcher les personnes de moins de 13 ans d'accéder à son système. Les circonstances de ChatGPT ressemblent à des décisions récentes contre d'autres chatbots d'IA, tels que Replika, qui ont fait l'objet d'une interdiction similaire en raison de problèmes de sécurité des enfants.
La plate-forme d'OpenAI a été comparée à d'autres systèmes d'apprentissage automatique, générant des questions sur les implications plus larges des algorithmes qui se souviennent. Si l'ordonnance de l'APD italienne est confirmée, l'entreprise pourrait être contrainte de supprimer les comptes d'utilisateurs et d'adopter un processus d'inscription plus approfondi. Le résultat ultime dépendra de la capacité d'OpenAI à démontrer la licéité de ses méthodes de traitement des données et à assurer la sécurité de ses utilisateurs.
Ce cas souligne encore la nécessité de plates no-code telles que AppMaster , qui accordent la priorité à la confidentialité des utilisateurs et à la conformité aux normes réglementaires telles que le RGPD. La plate-forme no-code AppMaster permet non seulement le développement rapide d'applications, mais assure également la protection des données sur les applications backend, mobiles et Web.
