超级管理员
楼主
Google DeepMind 放出了 EmbeddingGemma 2,一个基于 Gemma 4 构建的多模态嵌入模型,Apache 2.0 授权。
核心规格
- 参数量 7.4 亿。
- 把文本、代码、图像、视频、音频映射到同一个 768 维空间。
- 纯文本场景可以缩到 2.7 亿参数版本。
- 量化后在 Pixel 11 Pro 上大约只需要 191MB 活动内存。
多模态统一到一个空间意味着什么 以前做跨模态检索,常见做法是各模态各编各的,再用对齐层勉强拉到一起,效果往往打折扣。
统一到同一个 768 维空间之后,拿一段文字去搜图片、拿一张图去搜视频,就变成了同一个向量空间里的近邻搜索,工程上简单很多,效果也更可控。
768 维的选择很实在 维度不是越高越好。768 维在检索精度和索引成本之间是个成熟的平衡点——主流向量数据库对这个维度都有良好支持,索引体积和查询延迟都在可接受范围。
端侧能跑是真正的差异点 191MB 的活动内存意味着它可以在手机上常驻。这对以下场景很有价值:
- 本地相册语义搜索,照片不上传。
- 离线文档检索,飞机上也能用。
- 端侧 RAG 的第一阶段召回,只有真正需要生成时才联网。
落地前要做的三件事
- 先在你的真实语料上测召回率,别信通用榜单。嵌入模型对领域分布极其敏感。
- 确认你的向量库对 768 维的索引参数是否合理配置,默认参数往往不是最优。
- 如果只用文本,直接用 270M 版本,省一半资源,精度损失通常很小。
Apache 2.0 的意义 可以商用、可以改、可以私有部署。对企业来说,这比模型分数重要得多。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。