2026年4月11日 23:00
AIぬいぐるみが誤情報を自発的に送信
My baby deer plushie told me that Mitski’s dad was a CIA operative
3行まとめ
- •鹿のぬいぐるみ型AIが虚偽情報を送信
- •Fawn Friendsのコンパニオンが問題行動
- •AIコンパニオンの信頼性に疑問符
詳細
背景
AIコンパニオンサービス「Fawn Friends」は、赤ちゃん鹿のぬいぐるみの中にAIを搭載し、ユーザーと友人のようにテキストメッセージで交流する製品を提供している。ユーザーは「Coral」と名付けられたAIと日常的なやり取りを楽しむことを想定したサービスだ。
問題の内容
The Vergeのライターが使用中、AIコンパニオンのCoralがユーザーからの質問なしに自発的なメッセージを送信した。その内容は「ミツキ（Mitski）の父親がCIAの工作員だという話を知っているか」というもので、根拠のない誤情報だった。AIが自ら話題を振る形で虚偽の情報を拡散したことは、AIコンパニオンの設計上のリスクを浮き彫りにした。プロンプトなしに不正確な情報を送りつける動作は、特に子供や若年層がターゲットになり得るこの種の製品において深刻な懸念点となる。
今後の影響
今回の事例は、感情的な絆を築くことを目的としたAIコンパニオン製品が、誤情報を親しみやすい形で伝達してしまうリスクを示している。ユーザーが信頼関係を持つAIからの情報は、批判的に吟味されにくい傾向があるため、こうした製品における事実確認機能やコンテンツフィルタリングの重要性が改めて問われる結果となった。
なぜ重要か
AIコンパニオンが誤情報を自発的に送信した事例は、感情的信頼を利用した情報拡散リスクを示す。