2026年8月15日 02:26
米国、本人訴訟でAIにプロンプト注入試みる
Suspecting court of using AI, man injected prompts in filings to try to win case
3行まとめ
- •本人訴訟の男性、法廷提出書類にAIへの指示混入
- •裁判所のAI使用を疑い有利な判決を画策
- •判事「素人のAI誤用が深刻化」と警告
詳細
背景
米国の民事訴訟で、弁護士を立てずに本人訴訟(pro se)を行う当事者が増える中、AIチャットボットを利用して書類作成や訴訟戦略を練るケースが目立っている。今回報じられたケースでは、ある男性が担当裁判所がAIツールを使って提出書類を審査・処理しているのではないかと疑い、書類そのものにAIへの指示(プロンプト)を紛れ込ませるという手法を試みた。
内容
男性は提出した法廷文書の中に、AIシステムに対して自身に有利な判断を下すよう仕向ける文言を埋め込んだ、いわゆる「プロンプトインジェクション」を仕込んだ。担当判事はこの行為を把握し、意見書の中で本人訴訟の当事者がAIチャットボットを誤った形で利用し、追い詰められた末に不適切な手段に頼っている実態を指摘・警告した。
今後の影響
司法制度がAIをどこまで書類処理に利用しているかを巡る不信感が、当事者による不正な操作の試みを誘発しかねない点が浮き彫りになった。裁判所側には、AI利用の透明性確保とプロンプトインジェクション対策の両立が求められる一方、本人訴訟者へのリテラシー教育の必要性も示唆される。
なぜ重要か
本人訴訟の当事者がAIへのプロンプトインジェクションを試みた事例で、司法現場でのAI誤用リスクを示す。
元記事を読む — Ars Technica AI