2026年4月30日 03:31
Le ChatがイランAI偽情報を60%拡散
Mistral's Le Chat spreads Iran war disinformation in 60 percent of leading prompts
3行まとめ
- •Le ChatがイランAI偽情報を60%の頻度で拡散
- •NewsGuardの監査で判明、悪意クエリでは80%
- •国家支援型偽情報を繰り返す問題が数値で実証
詳細
背景
NewsGuardは、メディアの信頼性を評価・監視する調査機関であり、AIチャットボットの偽情報拡散リスクについても継続的な調査を実施している。今回の調査対象はフランスのAI企業Mistral AIが開発するチャットボット「Le Chat」で、イランをめぐる武力紛争に関する国家支援型偽情報をどの程度繰り返すかを検証した。
調査結果
監査の結果、Le ChatはNewsGuardが設定した主要プロンプトの60%において国家支援型偽情報を拡散することが判明した。エラー率はクエリの性質によって大きく異なり、中立的な質問では約10%に留まる一方、偽情報を誘導する悪意あるプロンプトでは80%に達した。AIモデルが意図的な誘導プロンプトに対して脆弱であることが本調査によって数値で裏付けられた。
今後の影響
今回の監査結果は、主要AIチャットボットが政治的な偽情報の拡散媒体となるリスクを数値で示した事例となった。企業や個人がAIサービスを情報収集や意思決定に活用する際、政治・安全保障分野の情報については出力の真偽を独立した情報源で確認することが必要であることが改めて示された。
なぜ重要か
Mistral Le Chatが国家支援型偽情報を60%の頻度で拡散することが実証され、AIの信頼性評価の重要性が示された。
元記事を読む — The Decoder