2026年7月18日 01:10
SF市、Apple・GoogleにAI悪用アプリ排除命令
San Francisco orders Apple, Google to remove nudify apps from app stores
3行まとめ
- •SF市がApple・Googleに是正要求
- •AI「nudify」アプリの配信停止を命令
- •両社は手数料で数百万ドル収益と推計
詳細
背景
サンフランシスコ市当局は、写真から人物の衣服を自動的に除去し、本人の同意なく性的な画像を生成する「nudify」アプリについて、AppleとGoogleに対しアプリストアからの削除を求める是正命令を出した。市の試算では、両社はこうしたアプリの配信手数料を通じて、これまでに数百万ドル規模の収益を得てきたとされる。
内容
nudifyアプリは生成AI技術を悪用し、実在の人物の写真をもとに無断で裸体や性的な画像を作成できるもので、未成年や女性を標的にした被害が国内外で深刻化している。市当局は、AppleとGoogleが両社の審査体制でこうしたアプリの存在を把握しながらも配信を許可し続け、手数料収入を得てきた点を問題視し、削除を求めた。
今後の影響
両社が命令に応じて実際にアプリを削除するかどうかが今後の焦点となる。AI生成技術を悪用した画像加害への規制強化の動きは各地の行政機関に広がりつつあり、アプリストア運営企業の審査責任やコンテンツ管理責任を問う議論が一段と強まる可能性がある。
なぜ重要か
AIによる悪用画像アプリへの規制執行で、プラットフォーム事業者のAIコンテンツ管理責任が問われる。
元記事を読む — Ars Technica AI