2026年10月13日 02:58
Sakana AI、自己改善モデルMASSを発表
Sakana AI's self-improving model gets better at solving and judging, but can't catch its own blind spots
3行まとめ
- •Sakana AIが自己改善手法MASSを発表
- •2回の反復でベースモデルに勝率約70%
- •3役で同じ盲点を見逃すと誤りを強化
詳細
背景
Sakana AIは、言語モデルが外部の教師データに頼らず自らを改善する方向の研究を進めている。自己改善型のAIは、モデル自身が出力の良し悪しを判断する仕組みを備える必要があり、その判断の精度が学習全体の質を左右する。今回の手法MASSは、この課題に一つのモデルで取り組むものである。
内容
MASSでは、1つの言語モデルが「タスクを解く」「結果を評価する」「ワークフローを改良する」という3つの役割を担う。モデルはこれらを繰り返しながら自分自身を改善していく。2回の反復を経た時点で、元のベースモデルに対する勝率は約70%に達したと報告されている。解く力と判定する力の両方が向上した点が特徴である。
課題と影響
一方で、同一のモデルが3つの役割すべてで同じ種類の誤りを見逃す場合、その誤りを進歩と取り違えてしまう。この盲点は学習中に強化されるおそれがあり、自己改善の限界として示された。外部の検証や多様な評価者を組み合わせる必要性を示す結果であり、自己改善型AIの設計や安全性を考える上で重要な知見となる。
なぜ重要か
自己改善型AIは外部データへの依存を減らせる一方、モデル自身の盲点を強化する限界があることを示した研究結果である。
元記事を読む — The Decoder