2026年8月12日 02:38

ChatGPT等の推論過程に脆弱性、情報流出

"But marinade" and leaked passwords are what researchers found in ChatGPT's hidden reasoning

3行まとめ

セキュリティ研究者がOpenAI・Anthropic・Googleの各APIに共通する脆弱性を発見した。この脆弱性を悪用すると、暗号化されて保護されているはずの推論（reasoning）トレースを外部から取得でき、取得したトレースを別のAIモデルへ移し替えることも可能だったという。

研究者が公開されているセッションデータを実際にスキャンしたところ、数十件におよぶパスワードやAPIキーが含まれていることが判明した。加えて、ユーザーが目にする「思考の要約」表示は、モデルが内部で実際に行っている推論内容の一部しか反映しておらず、実態を隠してしまうケースが多いことも明らかになった。

ChatGPTをはじめとする主要AIサービスでは、ユーザーに見せる推論要約と実際の内部処理との間にギャップがあることが浮き彫りになった。企業がAPI経由で機密情報を扱う際は、推論トレースの管理体制やログの取り扱いを見直す必要性が高まっている。

推論トレースが暗号化を回避され流出。要約表示も実態と異なる場合がある。