OpenAI 推出 1000 万美元超级对齐补助金

科技巨头OpenAI推出了一项新颖的资助计划，围绕致力于确保超级智能系统安全运行的令人振奋的实体。这一发展正值该公司预计超级智能在我们有生之年出现之际，引发了对有利于此类未来进步的强化安全协议的迫切需求。

随着变革性人工智能时代的临近， OpenAI设想这些开创性的未来系统将具备执行人类无法理解的复杂、创造性操作的能力。

目前，人工智能系统使用的安全措施主要围绕对齐——一个强调人类反馈谓词强化学习（RLHF）的过程。这种方法取决于人类的重要监督作用，并且在超级智能人工智能推动高度先进任务的开发和执行的情况下可能会动摇。考虑一个生成数百万行代码的人工智能原型；对于人类来说，系统地评估其整体将是一项艰巨的任务。

该公司强调了一个需要立即关注的明显困境——人类如何指导并建立对比自己智力高得多的人工智能系统的信任？ OpenAI认为这是世界上最紧迫的未解决技术难题之一，因此保持积极的前景，强调发现解决方案的道路上散布着许多有前景的方法，可供选择。

这家科技公司的批评不仅放大了机器学习研究社区和个人研究人员面临的重大机遇，而且还促使人们关注该领域的直接探索和可能取得的成就突破。

为了进一步支持这些研究事业， OpenAI已采取积极措施建立一个富有远见的 Superalignment 资助计划，并向其金库注入 1000 万美元。预计将为学术实验室、非营利组织和个人研究人员提供 10 万至 200 万美元的拨款。除此之外，该公司还为研究生学者预留了为期一年的 15 万美元奖学金，将资金分为两部分，以满足研究经费和津贴的需求。

令人振奋的是， OpenAI表现出了开放的政策，欢迎没有任何联盟经验的研究人员提出申请，这证明了该公司包容性和鼓励新鲜观点的精神。

为了为急切的申请者铺平道路， OpenAI将在 2 月 18 日之前开放申请，目标是在申请截止日期后一个月内恢复申请。

这项新的资助计划是在OpenAI 7 月份推出的更广泛的 Superalignment 项目的支持下推出的。作为这个雄心勃勃的项目的一部分，该公司组建了一个新的内部团队，承诺在未来四年内拿出 20% 的处理能力来应对这一挑战。总体目标：开发一个能够真实复制人类对齐研究能力的超级智能系统。