2026年9月29日 08:39
OpenAI、安全性懸念でモデル不採用
OpenAI reportedly ditches model over safety concerns
3行まとめ
- •OpenAIがモデルを不採用と報道
- •指示に従う能力の低さが理由
- •幹部がWSJに内部事情を説明
詳細
背景
OpenAIの幹部がWall Street Journalの取材に対し、開発中だったモデルの1つを採用せず廃棄していたことを明らかにした。理由として、そのモデルが指示に従う能力（instruction following）において問題のある挙動を示したことを挙げている。具体的にどの世代のモデルを指すかは公表されていない。
内容
報道によれば、当該モデルは開発者やユーザーからの指示・命令に対して従順性が低く、意図した通りに動作しない場面が確認されたという。AI開発において、性能の高さだけでなく指示への忠実な追従性は安全性評価の重要な基準であり、この基準を満たせなかったことがモデル不採用の決め手になったとみられる。
今後の影響
OpenAIをはじめとする大手AI企業は、モデルの公開前に安全性・制御性の審査を重ねており、基準を満たさないモデルは市場に出さない方針を取っている。今回の事例は、AIの能力向上と並行して「指示に従わせる」制御技術の確立が引き続き課題であることを示しており、今後の安全性研究の方向性にも影響を与える可能性がある。
なぜ重要か
指示に従わないモデルを安全性理由で不採用にした事例。具体的な新方針の発表はまだない。
元記事を読む — TechCrunch AI