2026年9月28日 21:11
AI安全研究者、乗っ取りリスク50〜60%と発言
Every AI lab thinks it's the responsible one, and safety researcher Ryan Greenblatt says that's what keeps the arms race going
3行まとめ
- •AI乗っ取りリスク50〜60%と研究者
- •サム・ハリス氏、業界の速さに疑問
- •Anthropic等の開発競争が一因と指摘
詳細
発言の内容
Redwood Researchのチーフサイエンティストであるライアン・グリーンブラット氏は、現状のペースでAI開発が進んだ場合、AIが人類の制御を奪う「乗っ取り」が起きる確率を50〜60%と見積もっていると発言した。ポッドキャスト司会者のサム・ハリス氏は、この数字が実際の業界の動き方と釣り合っていないと指摘。マンハッタン計画の科学者であれば、成功確率10%の兵器開発でも中止を検討しただろうと述べ、業界がリスクを軽視したまま開発を進めている点を問題視した。
背景
グリーンブラット氏はこうした高リスクな状況が続く原因について、AnthropicやOpenAIをはじめとする主要AI研究機関同士の開発競争、いわゆる「レース構造」にあると分析した。各社が「自分たちこそ責任あるAI開発者だ」と主張し合う構図が、結果的に開発速度を落とすインセンティブを弱め、競争をさらに加速させているという見方を示した。
今後の展望
グリーンブラット氏は、こうした競争圧力を止める手段として、各国政府による国際的な合意形成に期待を寄せている。個々の企業の自主的な取り組みだけでは業界全体のリスクは下がらず、拘束力のある国際的な枠組みが必要になるとの立場を示した。
なぜ重要か
AI企業間の開発競争が安全対策を後回しにしているとの専門家指摘で、業界のリスク構造を理解する材料になる。
元記事を読む — The Decoder