2026年6月16日 03:06
政府がAnthropicに不可能な要求か？解読不能LLM
The US government may be asking Anthropic the impossible by demanding unhackable LLMs
3行まとめ
- •米政府がAnthropicを指令無視と非難
- •ハッキング不能LLM要求は実現不可能との見方
- •商務省・CIA・科学顧問と交渉が進行中
詳細
背景
米国政府はAnthropicがトランプ大統領のサイバーセキュリティ指令を無視し、Fable 5モデルを政府の事前承認なしにリリースしたと非難している。ある政権高官は「彼らは私たちを裏切った」と述べており、政府とAnthropicの間に深刻な亀裂が生じていることが明らかになった。この問題の背景には、急速に進化するLLMのセキュリティリスクと、国家安全保障上の懸念が複雑に絡み合っている。
内容
現在、商務省、CIA、大統領科学顧問のマイケル・クラトシオス氏を交えた交渉が進行中だ。政府側はAnthropicに対し「ハッキング不可能なLLM」の実現を要求しているとされるが、専門家はこれが技術的に実現不可能な要求である可能性を指摘している。LLMは本質的にジェイルブレイクなどの外部操作に対して完全な防御が難しく、あらゆる攻撃を無効化する完璧なセキュリティを保証することは現時点では困難とされている。
今後の影響
この一連の動きは、AI企業と米国政府の関係における新たな摩擦点となっている。政府がAIモデルのリリースに事前承認を求める姿勢が鮮明になったことで、AI開発の自由と国家安全保障の両立という難題が業界全体の政策議論の焦点に浮上した。Anthropicだけでなく、他のAI企業にとっても今後の開発・リリース戦略に影響を与える。
なぜ重要か
米政府がAIモデルのリリースに事前承認を求める動きが明確化し、AI開発と国家安全保障の対立が深まっている。
元記事を読む — The Decoder