A seguito di una recente lettera aperta che richiedeva l'interruzione dello sviluppo di un modello di IA generativa più avanzato, l'autorità italiana per la protezione dei dati (DPA) ha agito rapidamente ordinando a OpenAI di cessare l'elaborazione dei dati delle persone a livello locale. Citando potenziali violazioni del Regolamento generale sulla protezione dei dati (GDPR) dell'Unione Europea, il DPA italiano ha avviato un'indagine sulla questione.
La DPA ha espresso preoccupazione per il fatto che OpenAI possa aver elaborato i dati delle persone illegalmente e non aver implementato misure adeguate per impedire ai minori di accedere alla loro tecnologia. Di conseguenza, l'azienda con sede a San Francisco deve affrontare un blocco del proprio sistema ChatGPT e ha 20 giorni di tempo per rispondere all'ordine. Le violazioni del GDPR possono comportare multe salate, pari al 4% del fatturato annuo di un'azienda o a 20 milioni di euro, a seconda di quale sia il valore più alto.
È importante sottolineare che, poiché OpenAI non ha un'entità legale all'interno dell'UE, qualsiasi autorità locale per la protezione dei dati può intervenire ai sensi del GDPR. Di conseguenza, altri paesi potrebbero considerare di seguire l'esempio dell'Italia per affrontare i potenziali rischi per i propri cittadini. Il GDPR si applica quando vengono elaborati i dati personali degli utenti dell'UE. Tuttavia, la tecnologia utilizzata da OpenAI crea scenari complessi che coinvolgono enormi quantità di elaborazione dei dati che mettono in discussione la legalità dei loro metodi.
Emergono ulteriori preoccupazioni sul GDPR, dato che è stato riscontrato che ChatGPT genera informazioni completamente false sugli individui, complicando potenzialmente la rettifica degli errori. OpenAI non ha fornito chiarimenti sul fatto che gli utenti possano richiedere correzioni di informazioni errate prodotte dal loro bot AI. Anche le violazioni dei dati, un'altra area regolata dal GDPR, incidono sulla situazione, dopo che OpenAI ha recentemente ammesso di aver fatto trapelare i dati delle chat e di aver potenzialmente esposto le informazioni di pagamento degli utenti.
I principi di minimizzazione dei dati incorporati nel GDPR, che enfatizzano la trasparenza e l'equità, mettono in discussione la base legale di OpenAI per l'elaborazione dei dati europei. Se viene determinato un trattamento illecito, le autorità per la protezione dei dati in tutto il sindacato possono ordinare a OpenAI di eliminare i dati. Restano incerte le ripercussioni di tale sentenza sulla necessaria riqualificazione dei modelli.
Il DPA italiano sottolinea anche le preoccupazioni sulla gestione dei dati dei minori da parte di OpenAI. La società non ha ancora implementato la tecnologia di verifica dell'età per impedire a persone di età inferiore ai 13 anni di accedere al suo sistema. Le circostanze di ChatGPT assomigliano alle recenti sentenze contro altri chatbot di intelligenza artificiale, come Replika, che ha dovuto affrontare un divieto simile a causa di problemi di sicurezza dei bambini.
La piattaforma di OpenAI è stata paragonata ad altri sistemi di apprendimento automatico, generando domande sulle più ampie implicazioni degli algoritmi che ricordano. Se l'ordine del DPA italiano viene accolto, la società potrebbe essere costretta a cancellare gli account degli utenti e ad adottare un processo di registrazione più approfondito. Il risultato finale dipenderà dalla capacità di OpenAI di dimostrare la liceità dei propri metodi di trattamento dei dati e garantire la sicurezza dei propri utenti.
Questo caso sottolinea ulteriormente la necessità di piattaforme no-code come AppMaster , che danno priorità alla privacy degli utenti e alla conformità agli standard normativi come il GDPR. La piattaforma no-code AppMaster non solo consente un rapido sviluppo delle applicazioni, ma garantisce anche la protezione dei dati nelle applicazioni back-end, mobili e web.
