发布
2026 年 10 月 6 日,Google DeepMind 以 Apache 2.0(允许商用)发布 开放多模态嵌入模型 EmbeddingGemma 2。它可将 文本、代码、图像、视频和音频 及其组合转换为 同一个 768 维空间 中的向量。这样就能用一段语音找到视频片段,或用一句话检索数小时的录音。
据谷歌介绍,仅支持文本的第一代 EmbeddingGemma 下载量已超过 2,000 万次。
技术规格
- 共 7.4 亿参数,基于 Gemma 4 架构。
- 模块化: 只加载需要的部分。文本与代码 2.7 亿,加视觉 4.4 亿,加音频 5.7 亿,全部 7.4 亿。所有版本生成的向量相互兼容。
- 文本与代码上下文 8,192 token,支持 100 多种语言。
- 套娃表示学习(MRL): 向量可截断为 512、256 或 128 维,向量库存储 最多节省 6 倍,质量损失很小。
- 在 MTEB(Code)上比 EmbeddingGemma 1 提升 14%,多语言质量保持不变。
- 通过 sentence-transformers(v6.1.0+)使用:
SentenceTransformer("google/embeddinggemma-2")。请使用 bfloat16 或 float32,不要用 float16。
为何重要
嵌入是 语义检索和 RAG 的基础。此前,拥有照片、巡检视频、呼叫中心录音和 PDF 手册的企业需要多个模型和独立的流水线。一个能在 笔记本、手机或 CPU 上运行的小型单一模型,可以实现:
- 企业内部多媒体检索:"拍到阀门腐蚀的那段巡检视频"。
- 端侧离线 RAG,不必把敏感数据送上云,有利于满足个人信息保护法规。
- 更轻的流水线: 它与 Gemma 4 共享分词器和音频编码器,两者可以用更少内存一起运行。
注意事项
- 基准数据来自谷歌;请用自己的数据测试,尤其是中文等语言。
- 处理视频时调整抽帧频率;长视频嵌入成本高。
- 截断到 128 维能省空间,但谷歌主要建议用于文本。
- 更换嵌入模型 必须全部重建索引;请规划好迁移。
如何开始
- 选择一个小场景(例如检索维修照片)。
- 只加载所需编码器以节省内存。
- 与现有嵌入在准确率和存储成本上对比。
- 然后再扩展到音频和视频。
来源
- Google Blog (2026-10-06): https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/
- Google Developers Blog, "EmbeddingGemma 2: The Developer Guide": https://developers.googleblog.com/en/embeddinggemma-2-the-developer-guide/
- EmbeddingGemma 2 model card: https://ai.google.dev/gemma/docs/embeddinggemma/model_card_2
想用自有数据构建多模态检索与 RAG 吗?KGA IT 提供免费咨询:kga-it.com