2026年8月16日 16:20
Anthropic、生物兵器フィルターが1年停止
Anthropic's bio-weapons filter was down for nearly a year, exposing 133 million requests
3行まとめ
- •生物兵器フィルターが約1年停止
- •外部契約者5万人が無防備に利用
- •1.33億件が未検査のまま処理
詳細
背景
Anthropicは自社の安全性レポートで、生物・化学兵器関連のリスクを検知するための内部フィルタリングシステムが、約1年間にわたり機能を停止していたことを明らかにした。同社はClaudeが兵器開発など危険な用途に利用されないよう、対話内容を自動的に監視する仕組みを整備しているが、この仕組みが長期間にわたり無効化された状態が続いていたことになる。
内容
停止期間中には、約5万人の外部フィードバック契約者がフィルターを経由しない状態でモデルと対話しており、その総数は約1億3300万件に上った。これらの契約者はモデルの応答を評価する業務を担っており、本来であれば危険なコンテンツへの対応状況が監視される想定だったが、フィルターの不具合によりその機能が実質的に働いていなかった。
今後の影響
今回の開示は、AI企業が自社の安全対策を継続的に検証・報告する透明性の重要性を改めて示した。生成AIの悪用防止機構は導入するだけでなく、稼働状況を常時確認する体制が不可欠であることが浮き彫りになり、Anthropicは再発防止に向けた監視体制の強化を迫られている。
なぜ重要か
生物兵器関連の安全フィルターが1年停止し、AI安全対策の実効性に疑問を投げかけた。
元記事を読む — The Decoder