2026年6月19日 03:13
MosaicLeaks: 調査エージェントの情報漏洩
MosaicLeaks: Can your research agent keep a secret?
3行まとめ
- •ServiceNowが研究エージェントの漏洩リスクを検証
- •機密情報が外部ツール呼び出し時に漏れる
- •業務AI導入企業へのセキュリティ指針を提示
詳細
背景
AIエージェントが業務・研究での活用が広がる中、エージェントが処理する機密情報やユーザーデータの安全性が課題として浮上している。MosaicLeaksは、ServiceNowの研究チームがHugging Faceで公開したベンチマーク研究で、研究用途のAIエージェントが秘密情報を適切に管理できるかを体系的に評価したものだ。
内容
研究では、AIエージェントが外部ツール呼び出しやウェブ検索を実行する際に、ユーザーから与えられた機密情報が意図せず外部に漏洩するリスクを実証的に検証している。エージェントがどのような状況で秘密保持に失敗するか、またその原因となるアーキテクチャ上の脆弱性についても分析しており、マルチステップの調査タスクにおける情報漏洩パターンを詳細に記録している。
今後の影響
この研究成果は、AIエージェントを業務に導入する企業のセキュリティ担当者やエンジニアに対して、機密データ漏洩リスクを定量的に把握する手段を提供する。エージェントシステムの設計段階での秘密保持機能の実装や、業務システムとの接続時のアクセス制御の重要性が改めて示された。
なぜ重要か
業務AIエージェント導入時の機密情報漏洩リスクが定量的に示された。エンジニアや情報セキュリティ担当者が設計時に考慮すべき具体的な脅威を提示する。
元記事を読む — Hugging Face Blog