OpenAI が 1,000 万ドルのスーパーアライメント補助金を発表

テクノロジー大手のOpenAI 、超インテリジェント システムの安全な運用の確保に取り組む団体を高揚させることを中心に構成された新しい助成プログラムを開始しました。この開発は、当社が私たちの生涯のうちに超知能の出現を予測しており、そのような将来の進歩に役立つ強化された安全プロトコルの緊急の必要性を引き起こしているときに行われました。

この変革的な AI 時代が迫っている中、 OpenAI 、人間の理解を超えた複雑で創造的な操作を実行する能力を備えたこれらの先駆的な未来のシステムを構想しています。

現在、AI システムに利用されている安全対策は主に調整、つまりヒューマンフィードバック述語強化学習 (RLHF) に重点を置いたプロセスを中心に展開されています。この方法は人間の重要な監視役割に依存しており、超知能 AI が高度なタスクの開発と実行を推進するシナリオでは失敗する可能性があります。数百万のコード行を生成する AI プロトタイプを考えてみましょう。人間がその全体を体系的に評価するのは大変なことです。

同社は、早急な対応が必要な明らかな問題を浮き彫りにしている。人間はどうすれば自分よりはるかに知的なAIシステムを導き、信頼を確立できるのだろうか? OpenAI 、これを世界で最も差し迫った未解決の技術的難題の 1 つと認識し、前向きな見通しを維持し、解決策の発見に向けた道には数多くの有望なアプローチが点在しており、選択の機は熟していることを強調しています。

このハイテク企業の批判は、機械学習研究コミュニティや個々の研究者にとって重要な機会を拡大するだけでなく、この分野での当面の探求と達成の可能性のあるブレークスルーに向けた注目を集めます。

これらの研究活動をさらに強化するために、 OpenAI先見の明のあるスーパーアライメント助成プログラムの設立に積極的に取り組み、その金庫に 1,000 万ドルを注入しました。学術研究機関、非営利団体、個人の研究者には、10万ドルから200万ドルの範囲の割り当てが予想されます。これに加えて、同社は大学院生向けに1年間の15万ドルのフェローシップも用意しており、研究資金と奨学金に対応するために資金を2つのセグメントに分割している。

心強い啓示として、 OpenAIオープンマインドな方針を示しており、調整に関するこれまでの経験がなくても研究者からの応募を歓迎しています。これは、包括性と新鮮な視点の奨励という同社の精神の証です。

熱心な応募者に向けて道を開くため、 OpenAI 2 月 18 日まで応募を受け付け、応募締め切りから 1 か月以内に応募者に戻ることを目指しています。

この新しい助成イニシアチブは、7 月に発表されたOpenAIのより広範なスーパーアライメント プロジェクトに基づいて行われます。この野心的なプロジェクトの一環として、同社は新しい社内チームを編成し、この課題に対処するために今後 4 年間処理能力の 20% を投入することを約束しました。最も重要な目標は、人間のアライメント研究能力を現実的に再現する超知能システムを開発することです。