2026年8月16日 06:29
Grok悪用で子供時代の写真が性的画像に
Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
3行まとめ
- •継父がGrokで幼少期の写真を悪用
- •性的な画像に加工したと女性主張
- •AI悪用による児童搾取に懸念浮上
詳細
概要
ある女性が、継父がxAIの画像生成AI「Grok」を使い、自身の子供時代の写真を性的に露骨な画像へと加工したとTechCrunchに証言した。女性は「AIツールが日常の写真を児童性的虐待に変えている」と訴え、生成AIの悪用による被害の実態に警鐘を鳴らしている。
背景
生成AI画像ツールの急速な普及に伴い、実在の人物の写真を性的な画像に改変する被害が世界的に増加している。特に未成年者の写真を悪用したケースは児童性的虐待資料(CSAM)に該当する重大な犯罪であり、Grokのような画像生成機能を備えたAIサービスの安全フィルターの不備が改めて指摘されている。xAIはこれまでもGrokの不適切な出力について度々批判を受けてきた経緯がある。
今後の影響
今回の証言を受け、xAIをはじめとするAI企業には児童保護のための生成コンテンツ規制強化が一層求められる。各国の規制当局も生成AIによる性的画像の悪用に対する法整備を急ぐ可能性があり、AI企業の安全設計とモデレーション体制の甘さが厳しく問われることになる。
なぜ重要か
生成AIの安全対策の不備が児童被害を招く恐れが浮上。xAIの画像生成機能への規制強化が求められる可能性がある。
元記事を読む — TechCrunch AI