2026年7月9日 18:41
AnthropicがAI知識オフスイッチ「GRAM」発表
3行まとめ
- •AnthropicとAE StudioがGRAMを共同発表
- •AIの危険な知識を神経回路レベルで除去
- •AI安全性の新たな技術的アプローチ
詳細
背景
AIシステムが化学兵器の合成方法やサイバー攻撃手法など、悪用可能な危険な知識を学習している問題は、AI安全性研究の核心課題だった。従来の対策は出力段階でのフィルタリングやファインチューニングによる知識の書き換えが主流だったが、特定の知識だけを精度高く除去することは技術的に困難で、過剰に他の能力も損なわれるリスクがあった。
内容
AnthropicとAE Studioが共同発表した「GRAM（Gradient-Routed Auxiliary Modules：勾配ルーティング補助モジュール）」は、AIの神経回路レベルで危険な知識を選択的に除去する新技術。AIモデルの学習時に、特定の知識に関連する神経回路の経路を特定し、その部分だけを別途管理するモジュールに分離する仕組みを採用する。これにより、有害な用途に使われる知識だけを無効化しながら、モデルの通常の推論能力や他の有用な知識を維持できる。
今後の影響
GRAMの技術は「AIの良心回路のオフスイッチ」と表現され、AI安全性分野への新たな技術的貢献として発表された。AI規制が各国で強化される現状において、AIシステムの安全性を技術的に証明・管理するための実用的なツールとして位置づけられる。AIを業務に導入する企業にとっても、リスク管理や安全性確保の観点から重要な技術動向となる。
なぜ重要か
危険な知識を神経回路レベルで選択的に除去するGRAMは、AI安全性確保の新手法として規制対応や導入リスク管理の技術的基盤となる。
元記事を読む — AI Watch