이탈리아 개인정보보호당국, GDPR 우려로 ChatGPT 차단

최근 더 진보된 생성형 AI 모델 개발 중단을 요구하는 공개 서한 이후, 이탈리아 개인정보보호당국(DPA)은 신속히 조치를 취해 OpenAI에 자국 내에서 사람들의 데이터 처리를 중단하라고 명령했습니다. 유럽연합의 일반 데이터 보호 규정(GDPR) 위반 가능성을 언급하며 이탈리아 DPA는 해당 사안에 대한 조사를 착수했습니다.

DPA는 OpenAI가 사람들의 데이터를 불법적으로 처리했을 수 있고, 미성년자의 접근을 차단할 적절한 조치를 시행하지 않았을 수 있다는 우려를 표명했습니다. 그 결과 샌프란시스코에 본사를 둔 해당 기업은 ChatGPT 시스템에 대한 차단 조치를 받았고, 명령에 대해 20일 내에 답변할 기한이 주어졌습니다. GDPR 위반이 확인되면 연간 매출의 4% 또는 2천만 유로(더 큰 금액) 중 높은 쪽에 해당하는 무거운 과징금이 부과될 수 있습니다.

중요하게도 OpenAI가 EU 내 법적 실체를 갖추지 않았기 때문에 GDPR 하에서는 어떤 지역의 개인정보보호당국이라도 개입할 수 있습니다. 따라서 다른 국가들도 자국민의 위험을 해소하기 위해 이탈리아의 조치를 따를 가능성이 있습니다. GDPR은 EU 이용자의 개인정보가 처리될 때 적용됩니다. 그러나 OpenAI가 사용하는 기술은 대규모의 데이터 처리를 수반하며, 그 방법의 합법성을 복잡하게 만드는 시나리오를 만들어냅니다.

추가적인 GDPR 우려로는 ChatGPT가 개인에 대해 전적으로 사실이 아닌 정보를 생성하는 사례가 발견되었다는 점이 있으며, 이는 잘못된 정보를 정정하는 절차를 복잡하게 만들 수 있습니다. OpenAI는 사용자들이 AI가 생성한 잘못된 정보의 정정을 요청할 수 있는지 여부에 대해 명확한 입장을 밝혀오지 않았습니다. 또한 OpenAI는 최근 채팅 데이터 유출을 인정했고, 일부 사용자의 결제 정보가 노출되었을 가능성도 제기되어 데이터 유출 문제도 GDPR 규제 대상이 되었습니다.

데이터 최소화 원칙(투명성과 공정성을 강조하는 GDPR의 핵심 원칙)은 OpenAI가 유럽 데이터 처리의 법적 근거를 어떻게 마련하고 있는지 의문을 제기합니다. 불법 처리로 판단될 경우, 유럽 전역의 개인정보보호당국들은 OpenAI에 데이터 삭제를 명령할 수 있습니다. 그러한 판결이 모델 재학습에 요구되는 사항에 어떤 영향을 미칠지는 불확실합니다.

이탈리아 DPA는 또한 OpenAI가 미성년자 데이터 처리에 관한 문제를 제기했습니다. 회사는 13세 미만 사용자가 시스템에 접근하는 것을 차단할 연령 확인 기술을 아직 구현하지 않은 상태입니다. 이번 ChatGPT 관련 상황은 아동 안전 문제로 인해 유사한 금지 조치를 받은 Replika 등 다른 AI 챗봇들에 대한 최근 판결과 닮아 있습니다.

OpenAI의 플랫폼은 다른 기계학습 시스템들과 비교되며 "기억하는 알고리즘"의 광범위한 영향에 대한 질문을 불러일으킵니다. 이탈리아 DPA의 명령이 유지될 경우, 회사는 사용자 계정을 삭제하고 보다 철저한 가입 절차를 도입하도록 강요될 수 있습니다. 최종 결과는 OpenAI가 데이터 처리의 합법성을 입증하고 사용자 보안을 보장할 수 있는지에 달려 있습니다.

이 사안은 백엔드, 모바일, 웹 애플리케이션 전반에서 GDPR과 같은 규제 기준을 준수하고 사용자 프라이버시를 우선하는 노코드 플랫폼인 AppMaster와 같은 솔루션의 필요성을 더욱 부각시킵니다. AppMasterno-code platform은 빠른 애플리케이션 개발을 가능하게 할 뿐만 아니라 데이터 보호를 보장합니다.