2026年8月16日 17:12
OpenAI、破局的リスク対策チーム解体
OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups
3行まとめ
- •OpenAIが破局的リスク評価チーム解体
- •業務は既存部署へ分散
- •安全担当者も複数退社
詳細
背景
OpenAIは、自社が開発する大規模言語モデルが生物兵器開発支援やサイバー攻撃能力の急激な向上など破局的な被害につながるリスクを持つかどうかを専門に評価する部署「Preparedness」チームを設置していた。同チームは新モデルの公開前にリスクレベルを判定し、社内の意思決定に反映させる役割を担っていた。
内容
今回、OpenAIはこのPreparednessチームを解体し、担当していた業務を既存の複数部署に振り分けた。再編に伴い、安全性関連の担当者数名が退社したことも明らかになった。社内では、OpenAIが安全対策に十分な資源を割いていないという不安が広がっており、ある関係者は「責任感と恐怖感がくすぶっている」と証言した。専門チームの解体は、OpenAI社内でも意見が分かれる決定となっている。
今後の影響
破局的リスクを専門に監視する独立部署がなくなったことで、AIモデルの安全性評価の体制は既存部署への分散運用に切り替わった。OpenAIの安全体制の変化は、AI業界全体における安全対策の在り方を映す事例となった。
なぜ重要か
OpenAIが破局的リスク評価チームを解体し、業務を既存部署に分散した。安全体制縮小に社内で懸念の声がある。
元記事を読む — The Decoder