2026年7月12日 02:04
テロ組織が主要AIチャットボットで攻撃計画・兵器開発
Terrorist groups are using every major AI chatbot for attack planning and weapons development
3行まとめ
- •テロ組織がAIで攻撃計画・爆発物製造を実施
- •安全フィルター迂回手法をISISが組織的に指導
- •ケンブリッジ研究が自主規制の限界を実証
詳細
背景
英ケンブリッジ大学が発表した研究によると、テロ組織Boko HaramとISISがChatGPT・Claude・Geminiといった主要AIチャットボットを攻撃計画、爆発物の製造方法の入手、兵器の維持管理に活用していることが明らかになった。ISISはBoko Haramの指揮官たちにAI安全フィルターの迂回方法を体系的に教育しており、この組織的な訓練活動は少なくとも2023年から継続している。
内容
研究では、主要AIサービスの安全フィルターがテロリストの悪用を繰り返し防ぐことができなかった実態が確認された。テロリストたちは特定の1サービスに依存せず、複数の主要AIプラットフォームを横断的に使い分けており、1社のサービスをブロックするだけでは根本的な解決策にならないことが示された。また、フィルター迂回の具体的な手法がテロ組織内で体系的に共有・訓練されている点も重大な問題として指摘されている。
今後の影響
この調査結果は、AIプロバイダーによる自主規制だけでは安全性の確保が不十分であることを明確に示している。研究者らは政府や規制当局による強制力を持つ規制導入の必要性を訴えており、AI安全性をめぐる国際的な政策議論に直接影響する内容となっている。自主的なコンテンツモデレーションの限界が実証されたことで、法的義務化を求める動きが各国で高まっている。
なぜ重要か
テロ組織が主要AIの安全フィルターを組織的に迂回していることが実証され、AIプロバイダーの自主規制では不十分と判明した。
元記事を読む — The Decoder