2026年7月16日 04:47
OpenAIがAIで自社AIを攻撃、成功率84%
OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
3行まとめ
- •GPT-Redが自己対戦で脆弱性発見
- •成功率84%、人間の13%を大幅に上回る
- •結果はGPT-5.6 Solの強化に活用
詳細
背景
OpenAIは、自社のAIモデルの脆弱性を発見するための取り組みとして、AIにAIを攻撃させる社内プロジェクトを進めている。従来、AIモデルの安全性検証は人間のレッドチーム（意図的に攻撃を仕掛けて弱点を洗い出す専門チーム）が中心的に担ってきたが、モデルの能力向上とともに攻撃パターンも複雑化し、人手だけでは網羅的な検証が難しくなってきていた。
内容
今回明らかになった内部モデル「GPT-Red」は、自己対戦（セルフプレイ）形式の強化学習によって攻撃手法を自律的に学習し、用意されたテストシナリオのうち84%で攻撃を成功させた。一方、同じシナリオに対して人間のレッドチームが成功させたのはわずか13%にとどまり、AIによる自動化アプローチが人間の専門家を大きく上回る成果を上げたことになる。この検証結果は、最新モデル「GPT-5.6 Sol」の安全性強化作業に直接反映されているという。
今後の影響
AIによる自動レッドチーミングが人間を上回る精度で実用段階に入ったことで、モデルの脆弱性発見からパッチ適用までのサイクルが大幅に高速化する可能性がある。その一方で、攻撃能力に特化したAI自体が新たなセキュリティリスクの発生源となりうるとの懸念も残り、社内での厳格な管理体制の構築が今後の課題となる。
なぜ重要か
OpenAIの自動AIレッドチームが人間の6倍超の攻撃成功率を記録し、AIモデルの安全性検証手法が大きく転換しつつある。
元記事を読む — The Decoder