2026年8月31日 07:00
AIの"存在しない病名"、研修医44%が信用
3行まとめ
- •AIが提示した架空の病名を検証
- •研修医の44%が誤診断を信用
- •仏大学病院が医師への影響調査
詳細
背景
ChatGPTなど大規模言語モデル（LLM）の医療診断支援への活用が進む一方、LLMは事実に基づかない情報をもっともらしく生成する「ハルシネーション」を起こすことが知られている。フランスのLille University Hospitalなどに所属する研究者らは、LLMが提示した架空の病名が医師の診断プロセスにどう影響するかを検証した論文「Hallucination by proxy in LLM-assisted differential diagnosis」を発表した。
内容
研究チームは、LLMが実在しない病名をもっともらしい説明とともに提示する状況を模した実験を行い、研修医と経験豊富な医師の反応を比較した。その結果、研修医の44%が架空の病名を疑うことなく信用し、鑑別診断の候補としてそのまま受け入れてしまうことが判明した。一方で経験豊富な医師は同じ状況でも架空の病名を見抜く割合が高く、知識や経験の差が誤情報への耐性に直結することが示された。
今後の影響
この結果は、LLMを診断支援に組み込む際、経験の浅い医療従事者がAIの誤った出力を無批判に受け入れるリスクを裏付けるものだ。医療分野に限らず、AIの回答を検証せずに業務判断へ組み込むことの危険性を示す実証例といえる。
なぜ重要か
LLMが提示した架空の病名を研修医の44%が信用し、経験の浅さが誤情報への脆弱性に直結すると示した。
元記事を読む — ITmedia AI+