2026年10月4日 21:40
Google、AIエージェントの過学習を抑制するRRSI
Google researchers find a way to keep self-improving AI agents from memorizing their tests
3行まとめ
- •Google研究者が新手法RRSIを発表
- •自己改善AIエージェントのテスト暗記を抑制
- •未知ベンチマークで最大4.7点向上
詳細
背景
自己改善型のAIエージェントは、改善の過程で評価に使うテストタスクを暗記してしまう傾向がある。その結果、学習時に見たタスクでは成績が上がっても、新しいタスクでは向上幅が小さくなったり、消えてしまったりする問題があった。
内容
Googleの研究者が、この問題に対処する新手法RRSIを発表した。RRSIは自己改善の過程でテストタスクへの過度な適合を抑える正則化の仕組みで、エージェントが特定のタスクを覚え込むことを防ぐ。報告によると、未知のベンチマークでのスコアが最大4.7ポイント向上した。さらに、正則化を行わない同種の手法と比べて、使用するトークン数は約30パーセント少なく済んだ。
今後の影響
自己改善エージェントの性能評価では、既知のテストでの成績と未知のタスクでの成績に差が出ることが課題となっている。RRSIは、この差を縮めながら計算コストも下げる方法として、エージェントの自己改善に関する研究に新たな選択肢を示した。
なぜ重要か
自己改善エージェントがテストを暗記して未知のタスクで伸びない課題に対し、性能向上とトークン約30%削減を両立する手法を示した。
元記事を読む — The Decoder