2026年7月16日 06:33
xAI、GrokでCSAM生成の男性を提訴
xAI sues a man for using Grok to generate CSAM ‘deepfakes’
3行まとめ
- •xAIがGrok悪用の男性を提訴
- •Grokで違法画像生成と主張
- •男性はCSAM所持容疑で逮捕済み
詳細
背景
イーロン・マスク氏が率いるxAIは、AIチャットボットGrokを通じて児童性的虐待物(CSAM)を生成したとして、サウスカロライナ州の男性を提訴した。Reutersが報じたところによると、被告のテリー・ウェイン・ハーウッド氏は、Grokの安全対策を意図的に回避し、非同意の画像を改変してCSAMを生成・拡散したとされる。xAIはこの行為が同社の利用規約に違反すると主張している。
内容
ハーウッド氏は今年2月、CSAMの所持・頒布容疑で逮捕されており、8件の重罪容疑に直面している。今回の民事訴訟は、この刑事事件とは別に、xAIが自社の名誉やサービスの安全性を守るために起こしたものとみられる。生成AIチャットボットが悪用され違法コンテンツの生成に使われた事例として注目される。
今後の影響
AI企業が自社サービスの悪用に対して法的措置を取る動きは今後も広がる可能性がある。生成AIの安全対策の実効性や、悪用ユーザーへの責任追及のあり方が改めて問われることになりそうだ。
なぜ重要か
生成AIチャットボットGrokが悪用され児童性虐待画像の生成に使われた事例で、AI企業の悪用対策と法的責任のあり方を問う。
元記事を読む — The Verge AI