Mistral 正式放出了 Large 4 的权重,内部代号 Le Chonk,万亿参数级,官方自称是中国以外最强的开源权重模型,并强调任务成本比竞品低 63%,主打网络安全与编程场景。
「任务成本」这个指标比单价更有意义
模型定价通常按百万 token 报价,但真实成本取决于完成一个任务需要多少 token。一个更聪明的模型可能单价高,但因为少绕弯路、少重试、输出更短,单任务成本反而更低。63% 这个数字如果是按任务算的,含金量远高于同幅度的单价折扣。
万亿参数开源的现实意义
和前面提到的 3T 模型一样,绝大多数团队不可能自己跑。放开权重真正的用途是三件:可审计(安全敏感行业必须知道模型里有什么)、可微调(垂直领域做领域适配)、可私有化(数据不出内网)。这三件事恰好是金融、政务、国防、医疗这些行业的硬门槛,所以「开源权重」在这个客户群里的商业价值,远大于在开发者社区里的口碑价值。
网络安全定位值得注意
把网络安全作为主打场景是一个聪明的差异化。这个领域对模型的要求很特殊:需要深度理解代码与协议、需要长上下文处理日志与流量、需要对模糊和对抗性输入保持稳定,而且客户极度在意数据不出境。开源权重几乎是为这个场景量身定做的卖点。
给评估团队的建议
别信单点跑分。用自己业务里最难的 50 个真实任务做盲测,同时记录三项:首次正确率、达到可用所需的平均轮次、平均输出 token 数。把三项乘起来算单任务成本,才是可比的数字。
部署的现实
万亿参数即便 4bit 量化也需要相当规模的显存,推理集群的采购与运维成本必须进模型。如果只是偶尔用,API 更划算;只有当调用量足够大或者数据合规不允许外发时,自建才有意义。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。