10 月 30 日,Mistral 把 Large 4(内部代号 Le Chonk)的权重放了出来,同时把标准推理价格下调约 50%。
规格与可用性
总参数约 1 万亿、每 token 激活 49 亿到 52 亿(不同来源口径略有差异),原生多模态 MoE,上下文 1M token。权重在 Hugging Face 可下载,商用需单独授权。vLLM 和 Transformers 做了 Day-0 支持,Unsloth 给了 1-bit 动态 GGUF 量化,把体积压到约 233GB——这意味着单机八卡的高显存配置有可能跑起来,虽然速度不会好看。
新价格是每百万输入 token 0.70 美元、缓存输入 0.07 美元、输出 2.10 美元。
Mistral 的卖点不是跑分
官方口径里最有意思的一句是「访问权不可被切断」。在 Artificial Analysis 智力指数上,开放权重阵营仍落后闭源榜首约 13 分,Mistral 自己也没否认。所以他们把叙事重心放在控制权:数据主权、自托管、审计能力。同时针对恶意请求的拒答率宣称约 96.6%,主打防御性网络安全场景。
值得动手验证的三件事
一是 1-bit 量化后的实际质量衰减,尤其长上下文里的事实召回;二是 1M 上下文在 233GB 体积下的 KV 缓存开销,实际可用窗口大概率远小于标称;三是工具调用的稳定性——MoE 稀疏激活在 function calling 上历来容易抖,官方没给这块的评测。
对准备做私有化部署的团队,这套权重是目前少有的万亿级可选项。但先别急着替换生产,拿你自己的评测集跑一遍再说。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。