2026年8月18日 09:00
Hugging Face、マルチベクトル検索に対応
Multi-Vector (Late Interaction) Embedding Models with Sentence Transformers
3行まとめ
- •文単位でなくトークン単位で埋め込み
- •Sentence Transformersが新対応
- •複数条件検索や画像文書検索に強み
詳細
背景
従来の埋め込みモデルは、文章全体を1つのベクトルに圧縮して意味を表現する。この方式は高速だが、長文や複数の要件を含むクエリでは情報が平均化され、細かいニュアンスが失われる課題があった。
内容
Hugging FaceはSentence Transformers v6.0で、トークン単位で個別のベクトルを保持する「マルチベクトル(Late Interaction)」埋め込みに対応した。新設のMultiVectorEncoderクラスは、クエリとドキュメントの各トークン間で最も類似度が高い組み合わせを積算するMaxSim方式でスコアを算出する。ColBERT系のPyLateやStanford-NLP ColBERT、画像文書検索向けのColQwenなど複数フォーマットに対応し、テキストだけでなく画像・音声・動画を含むマルチモーダル検索にも利用できる。
今後の影響
インデックスサイズは単一ベクトル方式の数十倍に膨らむが、階層的クラスタリングによるトークンプーリングで圧縮しても検索品質を維持できる。複数条件を含む検索やOCR不要のビジュアル文書検索など、既存モデルでは精度が出にくかった用途での活用が見込まれる。
なぜ重要か
RAGや検索システムの精度向上に使える新手法だが、対象は開発者向けで一般利用への影響は間接的にとどまる。
元記事を読む — Hugging Face Blog