OpenAI, 1,000만 달러의 Superalignment 보조금 공개

거대 기술 기업인 OpenAI 초지능 시스템의 안전한 작동을 보장하는 데 참여하는 기업을 중심으로 구성된 새로운 보조금 프로그램을 시작했습니다. 이러한 발전은 회사가 우리 생애 내에 초지능의 출현을 예상하고 그러한 미래 발전에 도움이 되는 강화된 안전 프로토콜에 대한 긴급한 필요성을 촉발함에 따라 이루어졌습니다.

이러한 혁신적인 AI 시대가 다가옴에 따라 OpenAI 인간의 이해를 피할 수 있는 복잡하고 창의적인 작업을 수행할 수 있는 능력을 갖춘 이러한 선구적인 미래 시스템을 구상합니다.

현재 AI 시스템에 사용되는 안전 조치는 주로 인간 피드백 예측 강화 학습(RLHF)을 강조하는 프로세스인 정렬을 중심으로 이루어집니다. 이 방법은 중요한 인간 감독 역할에 달려 있으며 초지능 AI가 고도로 발전된 작업의 개발 및 실행을 추진하는 시나리오에서는 잠재적으로 흔들릴 수 있습니다. 수백만 개의 코드 라인을 생성하는 AI 프로토타입을 생각해 보세요. 인간이 전체를 체계적으로 평가한다는 것은 매우 어려운 일이 될 것입니다.

회사는 즉각적인 주의가 필요한 명확한 난제를 강조했습니다. 인간이 어떻게 자신보다 훨씬 더 지능적인 AI 시스템을 지시하고 신뢰를 구축할 수 있습니까? OpenAI 이를 세계에서 가장 시급하고 해결되지 않은 기술적 난제 중 하나로 식별하면서 긍정적인 전망을 유지하며 솔루션 발견을 향한 길은 선택하기에 적합한 수많은 유망한 접근 방식으로 흩어져 있다는 점을 강조합니다.

기술 회사의 비판은 기계 학습 연구 커뮤니티와 개별 연구자 앞에 중요한 기회를 증폭시킬 뿐만 아니라 이 분야의 즉각적인 탐구와 가능한 성과 돌파구에 대한 관심을 불러일으킵니다.

이러한 연구 사업을 더욱 강화하기 위해 OpenAI 비전이 있는 Superalignment 보조금 프로그램을 수립하는 데 적극적인 조치를 취하여 금고에 1,000만 달러를 투입했습니다. 학술 연구실, 비영리 단체, 개인 연구자에게는 10만 달러에서 200만 달러까지 할당될 것으로 예상됩니다. 이 외에도 회사는 대학원 장학생을 위해 1년 동안 150,000달러의 장학금을 할당하여 연구 자금과 급여를 제공하기 위해 자금을 두 부분으로 나눴습니다.

고무적인 계시에서 OpenAI 개방적인 정책을 보여주고, 정렬에 대한 사전 경험이 없는 연구원의 지원을 환영합니다. 이는 회사의 포용성 정신과 새로운 관점 장려에 대한 증거입니다.

OpenAI 열성적인 지원자를 위한 길을 열어 2월 18일까지 지원서를 계속 열어둘 예정이며, 지원 마감 마감일로부터 한 달 이내에 지원자에게 복귀하는 것을 목표로 하고 있습니다.

새로운 보조금 이니셔티브는 지난 7월 공개된 OpenAI 의 광범위한 Superalignment 프로젝트의 뒤를 이어 나온 것입니다. 이 야심찬 프로젝트의 일환으로 회사는 새로운 내부 팀을 구성하여 이 문제를 해결하기 위해 향후 4년 동안 처리 용량의 20%를 약속했습니다. 가장 중요한 목표는 인간의 정렬 연구 능력을 현실적으로 복제하는 초지능 시스템을 개발하는 것입니다.