2026年9月3日 22:13
H Company、多言語エンコーダNeoMME公開
NeoMME: an efficient Multimodal-native and Multilingual Encoder
3行まとめ
- •H CompanyがNeoMME公開
- •260M/800Mの多言語エンコーダ
- •視覚文書検索で高速・高精度
詳細
概要
H Companyは2026年9月3日、テキストと画像を単一のTransformerで処理する多言語対応マルチモーダルエンコーダ「NeoMME」を発表した。260Mと800Mの2サイズで提供され、Apache 2.0で全チェックポイントを公開した。従来のVLMのように画像エンコーダとテキストデコーダを別々に組み合わせるのではなく、双方向Transformerがテキストトークンと32×32の画像パッチを同一経路で処理する設計を採用した。
技術的特徴
131,000トークンの多言語BPEトークナイザーを用い、画像を見ながらマスクされたテキストを復元する「離散マスク拡散」という学習手法で事前学習されている。動的な画像解像度に対応しアスペクト比を保持できる点も特徴。視覚ドキュメント検索ベンチマークViDoRe v3では、260MモデルがnDCG@10で0.523を記録し、パラメータ数が14倍多いColQwen2.5に匹敵する性能を示した。800Mモデルは0.556を達成している。
性能と用途
処理速度でも優位性を示し、NVIDIA L40S上で2048×2048解像度の画像を260Mモデルは秒間約51ページの速度でエンコードでき、既存モデルの約2倍に達する。主な用途は視覚ドキュメント検索とVisual RAGで、多言語文書を扱う企業の検索基盤への応用が見込まれる。
なぜ重要か
視覚文書検索やVisual RAG向けに、小型で高速な多言語対応オープンソースエンコーダの選択肢が増えた。
元記事を読む — Hugging Face Blog