发布
2026 年 10 月 7 日,以 AI 搜索引擎闻名的 Perplexity 在 Hugging Face 发布了 pplx-embed-v2-late 系列:两款用于检索的开放嵌入模型,参数量分别为 0.6B 和 9B,采用 MIT 许可(允许商用)。一周前,该公司还发布了 pplx-embed-v2-context。
它们是 多模态 模型:可 无需 OCR 地索引 文本和图像(照片、截图以及 PDF 和幻灯片的渲染页面),并保留表格和版式。
有何不同
1. 后期交互(ColBERT 风格)。 模型不是把整篇文档压缩成一个向量,而是为 每个 token 或图像块生成一个 128 维向量。检索时,查询中的每个 token 去寻找文档中最相似的部分(MaxSim 打分)。查询的不同部分可以匹配文档的不同部分,结果通常更精准。
2. 不同尺寸共享空间。 两个模型都是从同一个内部 18B"教师"模型逐 token 蒸馏而来。实际使用中,您可以 用高质量的 9B 对文档建一次索引,再 用又快又便宜的 0.6B 做查询(甚至可在笔记本上运行),无需重建索引。
数据
- 据 Perplexity 称,在 ViDoRe V3(视觉文档检索)上,0.6B 模型 可与激活参数多五倍的模型持平。
- 据 AI Weekly 报道,9B 在 MADQA 上得分 92.4%(针对约 1.8 万页 PDF 的 500 个问题)。
- 以上为公司自测结果;完整技术报告 将于"今年晚些时候"发布。
局限
- 单个输入只能是文本 或 图像,不能同时包含两者。
- 后期交互需要为每篇文档存储大量向量:索引比传统嵌入大得多,并需要支持多向量的向量数据库。
- 托管 API 尚未上线;目前面向自行部署的用户。
为何重要
企业的知识存放在 PDF、幻灯片、扫描表格和截图中。依赖 OCR 的流水线会打乱表格、丢失视觉上下文。一个能 直接检索页面图像 的开放模型,配合宽松许可和用于查询的小模型,能让 企业 RAG 更准确、更便宜。
如何评估
- 准备一组真实文档(手册、合同、报告)和已知答案的问题。
- 与现有嵌入比较准确率和 存储成本。
- 测试 9B 建索引 + 0.6B 查询 的组合。
- 确认您的向量数据库支持多向量(MaxSim)。
来源
- Perplexity 博客: https://www.perplexity.ai/en-GB/hub/blog/multimodal-embeddings-beyond-a-single-vector
- Hugging Face, perplexity-ai/pplx-embed-v2-late-9b: https://huggingface.co/perplexity-ai/pplx-embed-v2-late-9b
- AI Weekly (8/10/2026): https://aiweekly.co/alerts/perplexity-open-sources-pplx-embed-v2-late-924-on-madqa
想改进对公司文档的检索与 RAG 吗?KGA IT 提供免费咨询:kga-it.com