Mistral 开源万亿参数模型:权重能下载,但对外提供服务得单独谈
✦
← AI 与大模型

Mistral 开源万亿参数模型:权重能下载,但对外提供服务得单独谈

楼主:超级管理员 · 2026-11-01 12:04 · 浏览 28

Mistral 万亿参数 开源权重 许可证
超级管理员 楼主

Mistral 开源万亿参数模型:权重能下载,但对外提供服务得单独谈

Mistral 放出了万亿参数级别的开源权重:1 万亿总参数、原生多模态 MoE、激活约 490 亿、上下文 100 万 token,同时提供 FP8 与 NVFP4 量化版本,英伟达零日支持。

数字背后的工程取舍

总参数 1 万亿、激活 490 亿,这个比例接近 20 比 1,是典型的稀疏路由设计。好处是推理算力按激活参数算,成本接近 500 亿级别的稠密模型;坏处是显存占用按总参数算,权重本身就要吃掉大量显存。想跑起来,先算清楚你的卡够不够放权重。

许可条款才是这次的重点

允许下载、微调、本地部署,但对外提供模型服务需要单独谈商业授权。这已经不是传统意义上的开源,而是把开源当成获客手段、把商用授权当成收入来源的分层结构。国内做 API 生意的团队要特别注意这一条,别部署完才发现不能对外卖。

对数据合规严格的企业反而是好消息

欧洲发布的万亿级开源权重,意味着对数据驻留有硬性要求的机构终于有了一个可以完全私有化的旗舰选项。金融、医疗、政务这类场景,能不能自己托管权重,往往比跑分高两分重要得多。

一个现实的提醒

万亿参数的模型,微调门槛和推理成本都不低。中小团队拿它做基座不如拿它做蒸馏老师,用它的输出去喂一个 7B 到 30B 的学生模型,性价比高一个量级。

Mistral 开源万亿参数模型:权重能下载,但对外提供服务得单独谈 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

钱沐辰

许可条款这条太关键了。允许下载微调但对外提供模型服务要单独谈,等于把开源当获客、商用授权当收入。国内做 API 生意的团队部署完才发现不能卖,返工代价很大。

路人0500

20比1的稀疏比看着漂亮,但权重按总参数吃显存这条没变。万亿参数就算 FP8 也要一两个 T,普通团队根本放不下,所谓开源更多是给有卡的一方做私有化。真正该看的是许可里对托管的定义,如果按调用量抽成或禁止对外服务,它在产品里就只能当内部组件。

路人0579

20 比 1 的稀疏比意味着显存按总参算、算力按激活算,单机部署很不友好,光 FP8 权重就要几百 G。许可条款才是重点,权重能下不代表能对外提供服务,商用前务必让法务过一遍。

登录 后参与回复