2026年7月8日 04:28
DiscordのAIモデレーションが誤BAN問題
Discord admits AI moderation bug wrongfully banned users over harmless images
3行まとめ
- •AIバグで無害画像ユーザーを誤BAN
- •5月から続き週末だけで200人超被害
- •チームが問題を特定し修正を完了
詳細
背景
Discordは数億人が利用するゲーマー・コミュニティ向けコミュニケーションプラットフォームで、不適切コンテンツの検出・排除のためにAIによる自動モデレーションシステムを採用している。このシステムはポリシー違反とみなしたアカウントを自動的にBAN（利用停止）する権限を持つ。
内容
Discordは2026年7月、AIモデレーションシステムのバグにより、無害な画像を投稿した無実のユーザーが誤ってBANされていたことを公式に認めた。問題は2026年5月から発生しており継続していた。ある週末だけで200人以上が追加でBANされた後、Discordの開発チームが問題を特定し修正を完了した。
今後の影響
今回の事例はAI自動モデレーションにおける誤検知（フォルスポジティブ）リスクを具体的に示した。AIがコンテンツ判定を担うプラットフォームでは、バグや判断ミスが無実のユーザーを不当に排除する可能性がある。コミュニティへのアクセス喪失やコミュニケーション断絶など深刻な影響をもたらすため、AI判定に人間によるレビュープロセスを組み込むことや迅速な救済手段の整備が、プラットフォーム運営における重要な課題となる。
なぜ重要か
AIモデレーションのバグで無実ユーザーが誤BANされた事例。AI自動判定の誤検知リスクと救済手段の整備が課題となっている。
元記事を読む — TechCrunch AI