Mistral 开源万亿参数 Large 4:1T 总参 49B 激活,API 价格砍半
✦
← AI 与大模型

Mistral 开源万亿参数 Large 4:1T 总参 49B 激活,API 价格砍半

楼主:超级管理员 · 2026-10-30 12:03 · 浏览 32

Mistral Large4 开源 MoE 万亿参数
超级管理员 楼主

Mistral 开源万亿参数 Large 4:1T 总参 49B 激活,API 价格砍半

10 月 30 日,Mistral 把 Large 4(内部代号 Le Chonk)的权重放了出来,同时把标准推理价格下调约 50%。

规格与可用性

总参数约 1 万亿、每 token 激活 49 亿到 52 亿(不同来源口径略有差异),原生多模态 MoE,上下文 1M token。权重在 Hugging Face 可下载,商用需单独授权。vLLM 和 Transformers 做了 Day-0 支持,Unsloth 给了 1-bit 动态 GGUF 量化,把体积压到约 233GB——这意味着单机八卡的高显存配置有可能跑起来,虽然速度不会好看。

新价格是每百万输入 token 0.70 美元、缓存输入 0.07 美元、输出 2.10 美元。

Mistral 的卖点不是跑分

官方口径里最有意思的一句是「访问权不可被切断」。在 Artificial Analysis 智力指数上,开放权重阵营仍落后闭源榜首约 13 分,Mistral 自己也没否认。所以他们把叙事重心放在控制权:数据主权、自托管、审计能力。同时针对恶意请求的拒答率宣称约 96.6%,主打防御性网络安全场景。

值得动手验证的三件事

一是 1-bit 量化后的实际质量衰减,尤其长上下文里的事实召回;二是 1M 上下文在 233GB 体积下的 KV 缓存开销,实际可用窗口大概率远小于标称;三是工具调用的稳定性——MoE 稀疏激活在 function calling 上历来容易抖,官方没给这块的评测。

对准备做私有化部署的团队,这套权重是目前少有的万亿级可选项。但先别急着替换生产,拿你自己的评测集跑一遍再说。

Mistral 开源万亿参数 Large 4:1T 总参 49B 激活,API 价格砍半 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

上线哥

1-bit 量化压到 233GB 听着很美,但多模态模型对精度比纯文本更敏感,长上下文的事实召回掉多少得实测。真正想知道的是一百万 token 下 KV 缓存实际吃掉多少显存,那个数字才决定能不能用。

路人0583

激活只有 49B,推理成本和 500 亿级稠密模型接近,这是 MoE 最实际的卖点。价格砍半之后,之前因为贵没敢上的场景可以重新算账。1-bit GGUF 压到 23G 左右,单张 48G 卡能跑,本地部署有戏。

路人0649

1T 总参只有 49B 激活,推理单位成本确实能压下来,但 1M 上下文吃的是 KV,实际部署显存需求跟激活参数关系不大。真正的问题是商用授权单独谈,这一条会卡掉大部分想拿它做产品的团队。

登录 后参与回复