2026年10月1日 21:05

OpenAI、推論盗用の不正を阻止もAzureは無防備

OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on Azure

3行まとめ

OpenAIは、同社モデルの内部推論（回答に至る思考過程）をコピーしようとする組織的なキャンペーンを阻止したと発表した。モデルの出力から推論を抜き出して他のモデルの学習に使う手法は、いわゆる蒸留（既存モデルの出力を使った模倣学習）の一種として知られている。

対象となったのは1万5000を超えるアカウントで、OpenAIはこの活動の一部をMoonshot AIに関連する人物と結び付けている。一方、研究者の検証では、同じ攻撃手法がMicrosoft Azure上で数週間にわたり有効なままだった。新モデルのGPT-6 Astraに対しても通用したという。

OpenAIの防御策は、同社モデルを提供するクラウドプラットフォームにまで及んでいない。モデルを複数の経路で提供する場合、提供元ごとに保護水準が異なる状況が生じており、企業が利用経路を選ぶ際の確認事項となる。

OpenAIの不正対策がAzure等のクラウド経由では及ばず、提供経路ごとにモデル保護の水準が異なる実態が明らかになった。