2026年9月12日 04:34
ChatGPTの偽証言引用で弁護士に処分
ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses
3行まとめ
- •ChatGPTの偽証言を法廷提出
- •存在しない証人の証言引用
- •AI幻覚知らず懲戒処分に
詳細
概要
ニューメキシコ州の刑事事件を担当した弁護人が、ChatGPTを利用して作成した法廷提出書類に、実在しない証人による捏造された証言を引用していたことが判明し、裁判所から懲戒処分を受けた。弁護士は生成AIの回答をそのまま採用し、内容の裏付け確認を怠っていたとされる。
内容
問題となったのは、弁護活動に使う書面の作成をChatGPTに補助させた際、AIが実際には存在しない証人の名前と証言内容を生成し、それをそのまま法廷文書に盛り込んだ点である。弁護士は後の取材に対し「AIが事実を捏造(ハルシネーション)することがあるとは知らなかった」と釈明したが、裁判所は専門家としての確認義務を怠ったと判断し、懲戒の対象とした。
今後の影響
ChatGPTなど生成AIが事実と異なる内容をもっともらしく生成する「ハルシネーション」問題は以前から指摘されており、米国では過去にも同様の事例で弁護士が処分を受けたケースが相次いでいる。今回の一件は、専門職が生成AIを業務利用する際に、出力内容の事実確認を省略するリスクを改めて示すものとなった。
なぜ重要か
ChatGPTの回答を裏付け確認せず業務利用すると、専門職でも懲戒処分を受けかねないことを示す事例だ。
元記事を読む — Ars Technica AI