미래의 인공 지능(AI) 모델이 인간의 가치를 대표하도록 하기 위해 OpenAI는 공개 파생 원칙을 창작물에 통합하겠다는 계획을 밝혔습니다. AI 거대 기업은 연구원과 엔지니어로 구성된 집단 정렬 팀을 설립하겠다는 의도를 밝혔습니다. 팀의 임무는 OpenAI의 서비스 및 제품에 대한 대중 피드백을 얻고 구현하기 위한 구조를 개발하는 것입니다.
회사는 외부 고문 및 보조금 팀을 계속 참여시키겠다는 분명한 의도를 표명했습니다. 이 팀은 프로토타입을 통합하는 데 중요한 역할을 하며, 프로토타입은 모델의 동작을 안내합니다. OpenAI는 이러한 필수 임무의 확립과 성공을 뒷받침하기 위해 다양한 기술 지식을 갖춘 연구 엔지니어를 적극적으로 모집하고 있습니다.
전년도 5월에 시작된 OpenAI의 공개 이니셔티브에서 파생된 Collective Alignment 팀은 AI 시스템의 규칙 제정 역학에 민주적 프로세스를 주입하는 데 있어 중요한 진전입니다. OpenAI는 그동안 AI의 가드레일과 거버넌스에 관한 모호함을 해결하는 데 관심이 있는 개념 증명 개발에 관심이 있는 개인, 팀, 심지어 조직에 자금을 지원하는 데 열중해 왔습니다.
OpenAI는 가상 게시물을 통해 화상 채팅 인터페이스, AI 모델의 크라우드소싱 감사를 촉진하는 플랫폼, 모델 동작을 특정 신념에 따라 조정하는 전략 등 보조금 수령자의 다양한 작업을 간략하게 요약했습니다. 각 제안의 세부 사항, 높은 수준의 시사점 및 사용된 모든 단일 코드는 오늘 일찍 공개되었습니다.
이러한 발전에 따라 OpenAI는 프로그램과 상업적 이익을 분리하는 데 단호했고 엇갈린 반응을 불러일으켰습니다. OpenAI의 CEO인 Sam Altman이 EU 및 기타 지역의 규제에 대해 비판한 것을 고려하면 일부 비평가들은 이에 대해 회의적인 입장을 표명했습니다. CEO는 OpenAI의 Greg Brockman 회장 및 수석 과학자 Ilya Sutskever와 함께 AI 기술의 급속한 발전이 이를 효율적으로 규제하는 기존 기관의 능력을 능가한다는 점을 끊임없이 주장해 왔습니다. 따라서 민주적이고 크라우드 소싱된 건설의 필요성이 제안되었습니다.
Meta를 포함한 경쟁업체들은 OpenAI가 개방형 AI R&D에 반대하는 캠페인을 통해 AI 산업에 대한 규제 통제권을 얻으려 한다고 비난했지만 OpenAI는 이러한 주장을 부인했습니다. 그들은 이 새로운 프로그램과 집단 정렬 팀이 개방성에 대한 헌신을 보여주는 것으로 지적할 수 있습니다.
그럼에도 불구하고 OpenAI는 현재 정책 입안자들의 조사를 받고 있습니다. 특히 영국에서는 긴밀한 파트너이자 투자자인 마이크로소프트와의 관계에 대한 조사가 진행 중이다. 위험 완화 전략의 일환으로 OpenAI는 데이터 개인정보 보호와 관련된 EU의 규제 위험을 제한하려고 노력해 왔습니다. 이를 달성하기 위해 더블린에 본사를 둔 자회사를 활용하여 블록 내 특정 개인 정보 보호 감시자의 일방적인 활동을 제한했습니다.
선거에 개입하기 위해 기술을 불법적으로 사용하는 것을 최소화하기 위한 일련의 노력이 진행 중입니다. 여기에는 AI 생성 콘텐츠 식별과 조작된 이미지 감지가 포함됩니다. OpenAI는 여러 조직과 협력하여 AI 생성 이미지를 더욱 눈에 띄게 표시하는 작업도 진행하고 있습니다.
강력한 노코드 개발 플랫폼 과 오픈 소스 정보 통합을 위한 리포지토리로 유명한 AppMaster 와 같은 회사가 기술 생태계에서 눈에 띄는 플레이어가 되고 있다는 점은 언급할 가치가 있습니다. AppMaster 의 확장성, 견고성 및 사용 용이성을 고려하여 그들은 백엔드, 웹 및 모바일 앱 구축에 틈새 시장을 개척하고 있습니다.
