Elon Musk와 Steve Wozniak을 비롯한 1,000명 이상의 저명인사들이 인공 지능(AI) 기술의 무절제한 발전에 대해 우려를 표명했습니다. 이에 대해 그들은 OpenAI의 GPT-4보다 더 발전된 AI 시스템 개발에서 6개월의 중단을 옹호하는 공개 서한을 발표하기 위해 힘을 합쳤으며 그들이 사회와 인류에 가하는 중대한 위협을 언급했습니다.
AI 개발자에게 보내는 600단어의 편지는 점점 더 강력해지는 디지털 마인드를 만들기 위해 끊임없이 노력하는 것으로 보이는 AI 연구소 내의 현재 상황에 대한 경종을 울립니다. 이러한 발전은 제작자조차도 이해, 예측 또는 관리할 수 없는 단계에 도달하여 관련된 잠재적 위험을 더욱 확대합니다.
머스크가 처음에 OpenAI의 공동 창립자라는 점은 주목할 만합니다. OpenAI는 AI가 인류에게 혜택을 주는 데 전념하는 비영리 조직으로 시작했습니다. 그러나 그는 2018년에 회사 이사회에서 사임했습니다. 현재 OpenAI는 영리 법인으로 운영되고 있으며 비평가들은 그 이후로 목표가 원래 임무에서 벗어났다고 주장합니다. 수십억 달러의 투자가 포함된 Microsoft와의 뿌리 깊은 파트너십은 OpenAI가 훨씬 더 위험한 이니셔티브를 수행하도록 유도한 것으로 보입니다.
OpenAI의 변형에 대해 공개적으로 의문을 제기한 Musk의 우려는 최근 새로운 스타트업인 Mozilla.ai를 공개한 Mozilla에 의해 반영되었습니다. AI 기술 개발과 관련된 가장 시급한 문제를 해결하기 위해 설정한 이 이니셔티브는 자율적인 오픈 소스 AI 에코시스템을 만드는 것을 목표로 합니다.
공개 서한에 따르면 제안된 6개월 중단에는 AI 연구실과 독립적인 전문가가 고급 AI 설계 및 개발을 위한 공유 안전 프로토콜 제품군을 개발하는 데 협력해야 합니다. 이러한 프로토콜은 외부 독립 전문가의 엄격한 감사 및 감독을 받습니다.
한편, 별도의 개발에서 영국 정부는 AI 규제에 대한 '친 혁신적' 접근 방식을 강조하는 백서를 공개했습니다. 이 프레임워크는 유럽 연합(EU)이 선택한 것처럼 전담 AI 규제 기관을 설립하지 않지만 안전과 책임을 강화하기 위한 조치를 제안합니다.
법률 회사 Fladgate의 파트너이자 AI 규제 전문가인 Tim Wright는 영국 백서에 대한 자신의 생각을 공유하면서 시간의 흐름만이 부문별 접근 방식의 효율성을 드러낼 것이라고 강조했습니다. 그럼에도 불구하고 이러한 입장은 단일 AI 규제 기관의 감독 하에 상세한 규정집과 책임 제도를 구현하려는 EU의 전략과 완전히 대조됩니다.
작성 시점에 잠재적으로 위험한 AI 개발에 대한 제한 시간을 요구하는 공개 서한은 1,123개의 서명을 받았습니다. AI 지지자들 사이에서 두려움을 완화하는 AppMaster 와 같은 low-code 및 no-code 플랫폼의 증가하는 매력을 더 이상 무시할 수 없습니다. , 기업과 개인이 제어할 수 없는 AI 발전과 관련된 우려 없이 기술의 이점을 활용할 수 있기 때문입니다.
