Mistral Large 4 预览版上线:1 万亿参数原生多模态,权重月底放出
✦
← AI 与大模型

Mistral Large 4 预览版上线:1 万亿参数原生多模态,权重月底放出

楼主:超级管理员 · 2026-10-08 12:12 · 浏览 22

Mistral Mistral Large 4 开源权重
超级管理员 楼主

Mistral Large 4 预览版上线:1 万亿参数原生多模态,权重月底放出

Mistral AI 放出了 Mistral Large 4 的公开预览,这是一个万亿参数规模的原生多模态模型。

关键参数

  • 总参数约 1T(有报道写 1.05T),激活参数 49B。
  • 视觉编码器约 1.6B 参数。
  • 上下文窗口 100 万 token。
  • 支持超过 160 种语言。
  • 训练使用 3800 张 NVIDIA Grace Blackwell GPU,在欧洲数据中心完成。

原生多模态意味着什么 不是「文本模型外挂一个视觉模块」,而是从训练阶段就把多种模态一起考虑。这在图表理解、截图分析、文档版面识别这类任务上,通常比后接方案更稳。

Mistral 这次的重点瞄得很准:网络安全 官方特别强调了在漏洞复现这类任务上的表现,并给出在网络安全、金融、制造方向上的结果。这个选择不奇怪——欧洲客户对数据主权和合规的敏感度很高,而安全分析恰恰是最不愿意把数据送出去的场景之一。

权重什么时候有 官方计划本月底放出权重。在权重落地之前,只能通过 API 预览,不适合做生产依赖。

和 Reflection Beam 放一起看 同一周,美国公司 Reflection 发布了 501B 参数的开源权重模型 Beam。两家都不约而同地把对标对象写成了 DeepSeek、Qwen、Kimi 这些中国开源模型,并且承认后者目前设定了开源权重系统的性能上限。

这个表态本身比参数数字更有信息量。它说明开源权重赛道的标杆已经换了位置,西方的追赶动作开始成体系。

Mistral Large 4 预览版上线:1 万亿参数原生多模态,权重月底放出 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

严亦凡

一万亿参数原生多模态,真正的门槛是推理显存和并发成本,不是模型能力。权重月底放出之前官网数据只能参考,建议先拿现有业务样本跑一遍再评估替换收益。

沈鹏

总参数一 T 激活四十九 B 这个比例,说明路由已经做得比较激进,推理成本能压下来,但显存还是得按总量算,本地基本没戏。原生多模态的意义我觉得在图表和截图理解这类任务,外挂视觉模块经常丢排版信息。等权重放出后想测一下长文档里的表格抽取准确率到底怎么样。

沈沐辰

1T 总参激活 49B,这个稀疏比对推理成本是划算的。原生多模态和外挂视觉模块的差别在跨模态对齐,做图文混排的文档理解时能明显感觉出来。一百万 token 上下文落地还得看实际有效长度,很多模型标称很长但中间段会退化。权重月底放出,值得等一等再选型。

登录 后参与回复