2026年9月26日 19:30
Nvidia SoL-Pi、トークン消費を最大49%削減
Nvidia's SoL-Pi system cuts coding agent token usage nearly in half by optimizing the harness
3行まとめ
- •SoL-Piでトークン使用量を最大49%削減
- •制御層の最適化で性能はほぼ維持
- •他のベンチマークでは削減幅が小さい
詳細
概要
Nvidiaのコーディングエージェント向けシステム「SoL-Pi」は、トークン（AIが処理する文字の単位）の使用量を最大49%削減する。モデルと実行環境の間に位置する制御層（ハーネス）を最適化する方式で、性能の変化はわずかにとどまる。ハーネスは、モデルへの指示の渡し方や実行環境とのやり取りを仲介する仕組みを指す。コーディングエージェントは、プログラムの作成や修正を自律的に進めるAIで、作業のたびにトークンを消費する。
開発の経緯
SoL-Piの開発では、AIの研究エージェントが152通りのアプローチを試した。実行回数は合計3,000回を超える。この大規模な試行を通じて、性能をほぼ保ったままトークン使用量を抑えるハーネスの構成が探索された。
効果の範囲
ただし、他のベンチマーク（AIの性能を測る標準的な課題）では効果が小さくなった。最大49%という数値は、特定のベンチマークでの結果であり、すべての作業で同じ削減率が得られるわけではない。
なぜ重要か
コーディングエージェントのトークン消費をハーネス側の最適化で最大49%減らせることを示した。ただし他のベンチマークでは削減幅が小さい。
元記事を読む — The Decoder