Google 发布 EmbeddingGemma 2：740M 的多模态嵌入模型，Apache 2.0

Google 放出了 EmbeddingGemma 2，一个轻量级的多模态嵌入模型，许可证 Apache 2.0。参数 740M，主打能跑在手机端。

为什么小嵌入模型现在很重要 这两年 Agent 和 RAG 架构普及之后，大家发现一个尴尬的事实：很多调用大模型的地方，其实只需要一个分类、一次检索、一个打分。用通用大模型去做这些事，又慢又贵。

小嵌入模型能把这几件事拉回本地：

1. 向量检索。文档切片入库和查询都可以在本地完成，不依赖外部 API。
2. 语义路由。判断一条请求该走哪条处理链路，本质是分类问题。
3. 相似度去重。文本、图片混排的场景，多模态嵌入能统一处理。

多模态是真需求还是噱头 看场景。如果你的知识库里有大量截图、流程图、表格图片，纯文本嵌入会把这部分信息完全丢掉。多模态嵌入能把图文放进同一个向量空间，检索时不再“看不见图”。这不是锦上添花，而是决定了你的 RAG 能不能覆盖那部分内容。

740M 的实际意义 这个体量意味着：

• 手机端能跑，端侧检索、端侧去重成为可选项。
• 单机 CPU 也能扛住中等规模的检索请求。
• 敏感数据不用出本地。医疗、法律、内部文档这类场景，这一点常常是硬性要求。

怎么评估要不要换 别只看 MTEB 分数。拿你的真实查询集测三个指标：召回率、单次查询延迟、索引构建时间。很多团队换了嵌入模型之后召回率掉了，是因为没有重新做切分策略——不同嵌入模型的最佳切片长度不一样，换了模型就要重调。

另外，换嵌入模型等于要重建全部索引。这个成本要先算进去，别做到一半才发现。

本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。

换嵌入模型等于重建全部索引，这个成本要先算进去。不同模型的最佳切分长度也不一样，只换模型不调切片，召回率反而会掉，这点最容易漏。

小嵌入模型确实是这两年最被低估的一块。我们做内部知识库检索，之前直接调通用大模型的 embedding 接口，一次全量重建索引花了不少钱，换成 740M 本地跑，速度和成本都好很多。要注意多模态嵌入的维度对齐，如果原索引是别的模型建的，切换意味着整个向量库要重建，别低估这步工作量。

小嵌入模型才是真正降本的地方。我们把语义路由和 rerank 前的粗排换成本地 740M 模型，P95 从八百毫秒掉到九十毫秒，月度接口账单少了一半。Apache 2.0 这点很关键，商用不用再谈授权。提醒：换嵌入模型要全量重建索引，只跑增量会召回错乱。