인공 지능(AI)의 급속한 발전과 잠재적인 위협으로 인해 OpenAI의 창립자들은 원자력에 대한 IAEA(International Atomic Energy Agency)와 유사하게 AI 개발을 관리할 국제 규제 기관을 요구했습니다. OpenAI 설립자 Sam Altman, 사장 Greg Brockman 및 수석 과학자 Ilya Sutskever에 따르면 AI의 혁신은 기존 규제 당국이 기술을 효과적으로 제어할 수 없을 정도로 빠른 속도로 발생하고 있습니다.
OpenAI 창립자들은 자신의 성과를 인정하지만 널리 사용되는 ChatGPT 대화 에이전트의 AI 기술이 고유한 위험과 상당한 이점을 모두 제공한다는 사실을 인식하고 있습니다. 그들은 AI가 초지능으로의 안전한 전환과 사회와의 원활한 통합을 보장하기 위해 주요 개발 그룹 간에 일정 수준의 조정이 필요하다고 믿습니다.
이 제안은 IAEA와 유사한 국제 조직의 구성을 제안하며, 이 조직은 특정 능력 또는 자원 임계값에서 초지능 노력을 감독할 것입니다. 새로운 규제 기관은 AI 시스템을 검사하고, 감사를 지시하고, 안전 표준 준수를 보장하고, 배포 및 보안 수준에 제한을 가할 수 있습니다. 이러한 조직은 불량 행위자에게 직접 개입할 수는 없지만 국제 표준 및 계약을 수립하고 모니터링하기 위한 프레임워크를 제공할 수 있습니다.
OpenAI의 게시물에서 언급했듯이 AI 산업 내에서 조사를 위한 가능한 한 가지 측정은 연구 전용 컴퓨팅 성능 및 에너지 소비를 추적하는 것일 수 있습니다. 윤리적 AI 사용을 결정하는 것은 어려울 수 있지만 리소스 할당을 규제하고 에너지 사용을 감사하면 기술 개발 및 방향에 대한 통찰력을 얻을 수 있습니다. 창업자들은 숨막히는 혁신을 방지하기 위해 이러한 규정에서 소규모 회사를 면제할 가능성에 대해 논의합니다.
AI 연구자이자 비평가인 Timnit Gebru도 The Guardian과의 인터뷰에서 외부 규제의 필요성을 강조했습니다. 게브루는 달리 행동하라는 외부 압력이 있지 않는 한 기업들이 자율 규제를 하지 않을 것이라고 말했습니다. 따라서 복잡한 AI 개발 세계와 잠재적 위험을 탐색하기 위해 국제 규제 기관을 설립하는 것이 중요합니다.
AI가 전례 없는 속도로 계속 발전함에 따라 공공 안전을 보장하고 윤리적 기준을 유지하며 글로벌 이해 관계자 간의 협업을 촉진하는 데 국제 규제 기관이 필수적이 될 수 있습니다. 사용자가 백엔드, 웹 및 모바일 애플리케이션을 만들 수 있는 AppMaster 와 같은 노코드 플랫폼은 확립된 지침 및 규정을 준수하면서 혁신을 가속화하는 데 도움이 될 수 있습니다.
결론적으로 OpenAI 설립자들이 제안한 규제 기관의 구성은 AI 연구 및 개발에 대한 필수 점검을 제공하여 급성장하는 기술에 대해 더 안전하고 책임감 있는 미래로 이어질 수 있습니다.
