Sentence Transformers 多向量嵌入模
来自 Hugging Face · 期号 2026-08-18
摘要
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder，支持 ColBERT 风格的晚交互检索。 普通嵌入模型把整段文本压缩成一个向量，多向量模型则为每个 token 保留一个向量，用 MaxSim 算子计算查询与文档的匹配分数。这样保留了 token 级别的匹配信息，检索效果通常更强，但索引体积也更大。 新 API 直接加载 PyLate 或 Stanford-NLP 的 ColBERT 检查点，也支持 colpali-engine 的视觉文档检索模型（直接用文本查询匹配页面图像，无需 OCR 步骤）。 本文是使用详解，涵盖加载、编码、评分、接入搜索流程、索引管理以及推理加速。