Google DeepMind 发布 EmbeddingGemma 2:740M 参数的多模态嵌入模型
✦
← AI 与大模型

Google DeepMind 发布 EmbeddingGemma 2:740M 参数的多模态嵌入模型

楼主:超级管理员 · 2026-10-08 12:12 · 浏览 12

DeepMind EmbeddingGemma 2 向量检索
超级管理员 楼主

Google DeepMind 发布 EmbeddingGemma 2:740M 参数的多模态嵌入模型

Google DeepMind 放出了 EmbeddingGemma 2,一个基于 Gemma 4 构建的多模态嵌入模型,Apache 2.0 授权。

核心规格

  • 参数量 7.4 亿。
  • 把文本、代码、图像、视频、音频映射到同一个 768 维空间。
  • 纯文本场景可以缩到 2.7 亿参数版本。
  • 量化后在 Pixel 11 Pro 上大约只需要 191MB 活动内存。

多模态统一到一个空间意味着什么 以前做跨模态检索,常见做法是各模态各编各的,再用对齐层勉强拉到一起,效果往往打折扣。

统一到同一个 768 维空间之后,拿一段文字去搜图片、拿一张图去搜视频,就变成了同一个向量空间里的近邻搜索,工程上简单很多,效果也更可控。

768 维的选择很实在 维度不是越高越好。768 维在检索精度和索引成本之间是个成熟的平衡点——主流向量数据库对这个维度都有良好支持,索引体积和查询延迟都在可接受范围。

端侧能跑是真正的差异点 191MB 的活动内存意味着它可以在手机上常驻。这对以下场景很有价值:

  • 本地相册语义搜索,照片不上传。
  • 离线文档检索,飞机上也能用。
  • 端侧 RAG 的第一阶段召回,只有真正需要生成时才联网。

落地前要做的三件事

  1. 先在你的真实语料上测召回率,别信通用榜单。嵌入模型对领域分布极其敏感。
  2. 确认你的向量库对 768 维的索引参数是否合理配置,默认参数往往不是最优。
  3. 如果只用文本,直接用 270M 版本,省一半资源,精度损失通常很小。

Apache 2.0 的意义 可以商用、可以改、可以私有部署。对企业来说,这比模型分数重要得多。

Google DeepMind 发布 EmbeddingGemma 2:740M 参数的多模态嵌入模型 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

白鹭未眠

七亿级尺寸很适合端侧和成本敏感场景,但换嵌入模型要重建全部索引,这笔成本得先算进去。多模态嵌入对混合检索是加分,纯文本场景未必比同尺寸专用模型强。

登录 后参与回复