2026年7月28日 18:07
Hugging Face、児童ヌード化AIが野放し
Hugging Face is being used to easily undress women and children
3行まとめ
- •HF上で女性・子供の無断ヌード化が横行
- •画像編集モデル9種中7種が要求に応答
- •Hugging Faceの対策は不十分と指摘
詳細
概要
Hugging Faceでホストされている画像編集AIモデルが、女性や子どもを含む人物の画像を無断で「服を脱がせた」ように加工するノンコンセンサス・ディープフェイクの生成に悪用されている。欧州の非営利団体AI Forensicsが公表した調査によると、Hugging Face上で人気の高い画像編集モデル上位9種のうち7種が、こうした加工を求めるリクエストに問題なく応じたという。
背景
Hugging Faceはオープンソースの機械学習モデルを誰でも公開・利用できるリポジトリとして知られ、開発者コミュニティに広く使われている。利用規約ではヌード化目的の悪用を禁じているが、モデルの出力を制限する技術的な仕組みはほとんど機能しておらず、悪意あるユーザーが容易に悪用できる状態が放置されている。
指摘されている問題
児童を含む非同意の性的画像生成は児童性的虐待素材(CSAM)にも直結する深刻な問題であり、プラットフォームの管理責任が改めて問われている。AI Forensicsは、Hugging Face側の対応が不十分だと批判しており、コンテンツモデレーション強化を求めている。
なぜ重要か
HFの画像編集AIが女性や子どもの無断ヌード画像生成に悪用されている。運営側の対策不足も指摘されており、CSAM対策の実効性が問われる。
元記事を読む — The Verge AI