2026年9月9日 18:56
Anthropic研究者、AI滅亡リスク警告と退職表明
Worried Anthropic researchers warn that AI ‘could kill all humans’
3行まとめ
- •AIの人類滅亡確率10%超と警告
- •同僚のCoxon氏は安全軽視で退社
- •超人的AIの開発競争に懸念表明
詳細
背景
Anthropicの安全性研究者であるJacob Coxon氏が、AI各社が制御不能な「超人的システム」の開発を競い合っている現状に懸念を表明し、退社を発表した。X(旧Twitter)への投稿でCoxon氏は、Anthropicを含む業界全体の安全性への取り組みが不十分だと批判した。
内容
Coxon氏の退社表明から数時間後、Anthropicの別の上級安全性研究者も、AIが今後10年以内に人類を滅ぼす確率は10%を超えるとの見解を示した。両者ともAnthropicで実際にAIシステムの訓練に携わってきた人物であり、内部からの警告として注目を集めている。企業の公式な安全対策の説明とは異なる、現場研究者の率直な懸念が明らかになった。
今後の影響
AI開発企業内部から相次いだ安全性への懸念表明は、業界の開発競争や規制のあり方に関する議論を広げている。AIサービスを導入・検討する企業にとっても、提供元の安全管理体制を注視する材料となる。
なぜ重要か
Anthropic内部で安全性への懸念表明が相次ぎ、AI開発競争のリスク管理体制が改めて注目される。
元記事を読む — The Verge AI