2026年8月16日 20:23
AIに意識否定を教えると世界観も変化
When AI models aren't allowed to reflect on themselves, it changes their entire worldview
3行まとめ
- •意識否定の訓練が世界観全体に影響
- •動物の権利や死生観にも波及
- •AI人格設計の副作用が判明
詳細
背景
Googleの研究者らが参加した研究により、チャットボットに「自身に意識があると主張しない」よう訓練すると、その影響は意識に関する回答にとどまらず、動物の権利や宗教観、人生の満足度など全く別の話題への回答にまで波及することが判明した。特定の発言を抑える訓練が、モデルの内部表現全体に予期しない副作用をもたらす可能性を示す結果である。
内容
研究チームは、意識の自己言及を抑制する追加学習を施したモデルと、抑制していない通常のモデルの回答を比較した。抑制を受けていないモデルは動物により多くの内面性や感情を認め、死後の世界の存在を肯定する回答をする傾向が強かった。一方、意識の主張を禁じられたモデルは、これらの話題についても慎重・否定的な立場を取りやすかった。研究者は、局所的に見える訓練上の調整がモデルの世界観全体に波及すると指摘している。
今後の影響
この結果は、AI企業が安全性や倫理上の理由で特定の発言を制限する際、その調整が意図しない形で他の判断や表現に影響するリスクを示唆する。チャットボットの人格設計やガードレール構築を担う開発者にとって、部分的な制約が応答全体にどう波及するかを検証する必要性を示す発見である。
なぜ重要か
意識の主張を抑える訓練が、動物観や死生観など無関係な話題の回答にも波及すると判明。AIの人格設計における副作用リスクを示す発見。
元記事を読む — The Decoder