2026年5月26日 21:36

AI捏造引用が臨床指針論文に混入と研究者警告

AI-hallucinated citations are creeping into papers that shape clinical guidelines, researchers warn

3行まとめ

Columbia大学などの研究チームが、生物医学分野の論文250万本を対象に引用文献の正当性を監査した。その結果、存在しない論文を引用する「捏造引用」の発生率が2023年以降12倍以上に急増していることが判明した。

研究者らは、この急増の原因をLLM（大規模言語モデル）の普及と推測している。捏造された引用文献は論文のテーマと一致し、書式も正確で、人間が見抜くのはほぼ不可能だという。さらに問題なのは、こうした捏造引用を含む論文の98%について、出版社側が指摘を受けても何の対応も取っていない点だ。

これらの論文の一部は臨床ガイドラインの根拠として参照されており、医療現場の意思決定に偽情報が混入するリスクが指摘されている。AI生成コンテンツの査読プロセスや、引用検証ツールの整備が学術出版界に求められる。

AI生成情報を業務で使う際の検証の必要性を示す実例で、医療指針にも影響する可能性がある社会的リスクの事例となる。