2026年5月12日 09:00
OpenAI、Parameter Golfの成果と学びを公開
What Parameter Golf taught us about AI-assisted research
3行まとめ
- •OpenAIのParameter Golfに1000人以上が参加
- •16MB制約下でAI支援のML研究を競った
- •量子化やモデル設計の新知見が多数得られた
詳細
概要
OpenAIが開催したParameter Golfチャレンジの振り返りが公開された。この大会は16MBのファイルサイズ制約と8×H100 GPUでの10分間という訓練時間制限の下で、最も高性能な言語モデルを構築するという研究コンペティションである。2026年3月18日から4月30日まで開催され、1000人以上の参加者から2000件以上の提出があった。評価指標はFineWebデータセットに対するビット・パー・バイト(BPB)スコアで、低いほど高性能となる。
技術的発見
大会を通じて、AI支援による機械学習研究、コーディングエージェントの活用、量子化技術、新しいモデル設計手法に関する多くの知見が得られた。具体的には、深さ方向の再帰(depth recurrence)、並列残差接続、量子化対応訓練(QAT)、低ランク分解、新しいトークナイザー設計など、効率的なAIモデル構築に関する技術的ブレークスルーが参加者から報告された。特に、テスト時訓練(TTT)と深さ再帰が根本的に相反するという、これまで文献化されていなかった新たな発見も生まれた。
意義
OpenAIはこの大会を通じて、厳しい制約下での最適化が効率的なAI技術の発展に直結することを確認した。大会の成果は100万ドル分の計算リソース提供に加え、優秀な参加者をジュニア研究者として採用する人材発掘にも活用される。
なぜ重要か
16MB制約下で1000人以上が競い合った結果、量子化やモデル圧縮の新たな技術的知見が多数生まれた。OpenAIの研究方向性と人材戦略を示す取り組みである。
元記事を読む — OpenAI Blog