2026年9月29日 04:26

AI研究者20人超、知能爆発に警鐘

More than 20 leading AI researchers warn that automated AI research poses extreme risks

3行まとめ

ジェフリー・ヒントン氏やヨシュア・ベンジオ氏、OpenAIの研究責任者ヤクブ・パホツキ氏を含む20人以上のAI研究者が、AI研究そのものを自動化する動きに対して警告する共同声明を発表した。AIが自らの改良を担うようになれば、能力向上が加速度的に進む「知能爆発」が起こりうると指摘している。

声明では、AIシステムが近い将来、AI研究のあらゆる工程を自動化できるようになる可能性があると指摘している。これが実現すると、本来は数年かかる技術進歩がわずか数カ月に圧縮される恐れがあり、人間による監督や安全性検証が追いつかなくなるリスクがあると警鐘を鳴らしている。

署名者らは研究機関や企業に対し、自動化されたAI研究の進行速度を適切に管理し、安全対策を技術開発に先行させるよう求めている。今後、主要なAI開発企業がこの提言にどう応じるかが、業界全体の安全基準の行方を左右すると見られる。

ヒントン氏らAI著名研究者20人超が、研究自動化による能力急拡大「知能爆発」の危険性を公式に警告した。