2026年9月18日 07:34
PrismMLが小型LLM「Bonsai 2」を発表
PrismML hopes its tiny LLM will change how we all use AI
3行まとめ
- •PrismMLが圧縮LLM技術を発表
- •新モデルBonsai 2はQwenの98%性能
- •9〜10倍のメモリ削減を実現
詳細
概要
PrismMLはCaltechの研究者グループが設立したAIラボで、CEO兼Caltech教授のBabak Hassibiが率いる。小型言語モデルの圧縮技術に特化しており、これまでにKhosla VenturesやCerberus Capital、Caltechから2,225万ドルのシード資金を調達している。
技術
最新モデル「Bonsai 2 27B」は、Alibabaのオープンソースモデルを5.9GBまで圧縮し、9〜10倍のメモリ削減を実現した。通常16ビットで表現される重みを+1・−1・0の3値に単純化する「ターナリー重み」という手法が核心技術で、性能面ではQwenのベンチマークスコアの98%に達し、前バージョンの95%から改善した。初代モデルは1,100万回以上ダウンロードされている。
今後
PrismMLは今後数ヶ月で数百億パラメータ規模のモデルをリリースする計画で、大規模モデルほど性能維持が容易になるとみている。Multiverse Computingなど競合も圧縮技術を手がけるが、PrismMLはほぼ完全な性能維持を強みとして訴求する。Appleとの協業観測も報じられているが、CEOはコメントを控えている。
なぜ重要か
モデルを9〜10倍圧縮しつつ性能をほぼ維持する技術で、端末上での低コスト運用やモデル選定の判断材料になる。
元記事を読む — TechCrunch AI