2026年7月29日 00:01
Liquid AI、CPU向け長文脈エンコーダ公開
LFM2.5-Encoders for Fast Long-Context Inference on CPU
3行まとめ
- •Liquid AIが新エンコーダ2種を公開
- •CPU推論で最大3.7倍高速化
- •8192トークンの長文脈に対応
詳細
背景
Liquid AIは、テキスト分類や意図判定などの高頻度タスクをCPU上で高速に処理できる汎用エンコーダモデルとして、LFM2.5デコーダバックボーンを基盤とした新シリーズ「LFM2.5-Encoders」を発表した。パラメータ数の異なる230M版と350M版の2モデルを用意し、Hugging Faceでオープンウェイトとして公開している。
内容
両モデルは8,192トークンという長い文脈長に対応しており、双方向注意マスクと非因果的短畳み込み、マスク言語モデリング(30%のトークンをマスク)を組み合わせて訓練された。訓練は1,024トークン長のウェブコーパスでの基礎学習後、8,192トークン長への長文脈適応という段階的な手順で行われた。ベンチマークでは230M版がModernBERT-baseの性能を上回り、350M版は評価対象14モデル中4位にランクインした。CPU推論では8,192トークンの処理にModernBERT-baseが約90秒かかるのに対し230M版は約28秒と、約3.7倍の高速化を達成している。
今後の影響
ノートパソコンのCPUだけで長文書を30秒以内に処理できるため、意図ルーティングやポリシー検証、個人情報検出、テキスト分類など高頻度タスクへの実装コストが下がる。ファインチューニング用チュートリアルも提供されており、開発者による追加調整も行いやすい。
なぜ重要か
CPU上で長文脈処理を高速化し、常時稼働の分類・検出タスクの導入コストを下げる。
元記事を読む — Hugging Face Blog