2026年5月5日 21:15

Anthropic共同創業者がAI再帰的自己改善のリスクを論考

Anthropic co-founder maps out how recursive AI improvement could outpace the humans meant to supervise it

3行まとめ

Anthropic共同創業者のジャック・クラーク氏が、AIシステムが自らの後継モデルを訓練する「再帰的自己改善」について長文エッセイを公開した。AIの能力向上を人間が監督しきれなくなる可能性に焦点を当てた論考である。

クラーク氏は、AIが自身の後継を訓練するための構成要素はすでにほぼ揃っていると指摘する。さらに、こうした再帰的改善が2028年末までに実現する確率を60%と見積もっており、AI業界の重鎮として具体的な時間軸を提示した点が注目される。

AIラボの主要人物が再帰的自己改善の現実性に踏み込んだことで、AI監督・安全性議論の前提が変わる可能性がある。規制当局や開発企業はガバナンス体制の前倒し整備を迫られる。

Anthropic創業者が示した再帰的AI改善の時間軸は、AI安全性と規制論議の前提を更新する材料となる。