超级管理员
楼主
月之暗面把 K3.1 Pro 的完整权重定在 11 月 4 日发布。架构是动态路由 MoE，128 个专家模块、Top-2 激活，总参 3 万亿，上下文 100 万 token。官方口径是编程与数学推理比前代提升 23%，与头部闭源模型的智能指数差距从 12 分缩到 3 分。
Top-2 激活是关键设计
128 个专家只激活 2 个，意味着单次前向的计算量只跟 2 个专家相关，而不是跟 3 万亿总参相关。这是万亿 MoE 能跑起来的前提。代价是路由必须足够准：路由错了，等于用错了专家，输出质量会断崖式下降。所以这类模型的工程重点不在参数量，在路由器训练和负载均衡。
100 万上下文配 3 万亿参数
窗口大不等于该塞满。实测经验是长上下文里中段信息的召回明显衰减，关键约束放在首尾更稳。真正的工程活是“在一百万里只挑该喂的那几万”，而不是把整本手册扔进去。
自建还是用 API
3 万亿参数的 MoE，即使只激活 2 个专家，显存占用也是几十张卡起步的量级。绝大多数团队的正确路径是先用 API 验证场景，确认单位经济模型之后再谈自建。权重开放的真实价值是摆脱单点依赖、可做垂直蒸馏、可审计行为，不是自己跑。
本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。
