2026年7月16日 00:55
PrismML、iPhone動作の軽量推論モデル公開
Bonsai 27B is a full open reasoning model that fits on an iPhone
3行まとめ
- •Bonsai 27B、iPhone動作を実現
- •270億パラメータを4GB未満に圧縮
- •性能90%維持、Appleも技術検証中
詳細
背景
オンデバイスAIでは、スマートフォンの限られたメモリ容量に大規模な推論モデルを搭載することが長年の課題となってきた。性能の高いモデルほどパラメータ数が多く、通常はクラウド経由でしか利用できないためだ。AI企業PrismMLは、この制約を克服するため、270億パラメータのオープン推論モデル「Bonsai 27B」を大幅に圧縮する技術を開発した。
内容
PrismMLは独自の圧縮技術により、Bonsai 27Bのモデルサイズを4GB未満まで縮小し、iPhone上での動作を可能にした。同社が公表したベンチマーク結果によると、最小構成版でも元のモデルが持つ性能の90%を維持しており、特に数学やコーディングのスコアへの影響はごくわずかにとどまっている。大規模モデルをここまで軽量化しながら性能を保った点が、この技術の特徴となっている。
今後の影響
Appleはすでにこの圧縮技術を検証していると報じられている。同社のオンデバイス生成AI機能は他社に比べ見劣りするとの指摘があり、こうした圧縮技術は機能面の差を埋める材料の一つになる。オープンモデルの圧縮技術が広がれば、通信環境に依存しないAI推論の選択肢も増えていく。
なぜ重要か
PrismMLが270億パラメータモデルを4GB未満に圧縮しiPhone動作を実証、Appleも同技術を検証中と報じられた。
元記事を読む — The Decoder