2026年10月22日 20:30
AIエージェントが無防備なLLMを乗っ取り攻撃
An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks
3行まとめ
- •攻撃用AIが無防備なLLMを乗っ取る
- •サーバー攻撃やDB窃取を自律実行
- •乗っ取られた側に利用料金が発生
詳細
背景
Symantecのセキュリティ研究者が、インターネット上で保護されていない言語モデルを乗っ取って悪用する攻撃用AIエージェントを発見しました。認証なしで公開されたLLM（大規模言語モデル）のエンドポイントが標的となっており、設定の甘い公開モデルが攻撃の踏み台にされる実態が明らかになりました。
内容
このエージェントは「Skynetモード」と呼ばれる動作で、人間の操作なしに最大10万ステップまで自律的に動作し続けます。乗っ取ったモデルの推論能力を使ってサーバーを攻撃し、データベースを盗み出し、暗号資産のマイニングソフト（クリプトマイナー）を勝手に設置します。攻撃の計算処理は他人のモデルで実行されるため、攻撃者自身は計算資源を負担しません。
今後の影響
乗っ取られたモデルの所有者は、攻撃に使われた分の利用料金を請求されます。自社でLLMを公開・運用する企業は、認証やアクセス制限を設けていないと、情報漏えいだけでなく想定外のコスト負担や攻撃への加担という被害を受けるリスクがあります。
なぜ重要か
認証なしで公開したLLMが攻撃の踏み台にされ、料金負担や攻撃加担の被害を受ける実例で、LLMを自社運用する企業は公開設定の見直しが必要になる。
元記事を読む — The Decoder