美团 LongCat-2.5 用 1.6 万亿参数跑通全国产算力：显存这道坎是怎么绕过去的

美团 LongCat 团队放出了 LongCat-2.5，总参数 1.6 万亿，原生多模态，官方说全流程训练都在国产算力集群上完成。每个 token 激活约 480 亿参数，Terminal Bench v4.0 得分 38.5。

真正的难点不在参数规模

万亿级模型在国产卡上跑，卡的不是算力峰值，是单卡显存。国产加速器主流配置卡在 80GB 以下，而训练万亿模型天然需要把参数、梯度、优化器状态、激活值四样东西同时摊开。显存不够，就只能靠更激进的并行切分。

团队的说法是重构了并行策略与显存配置，长序列 SFT 的单卡吞吐比基线提升 86%。这个数字比跑分更值得看：长序列 SFT 是最吃显存的场景，能把吞吐拉上来，说明切分策略真的调通了，而不是靠砍序列长度糊过去。

对做垂直模型的团队意味着什么

如果你的业务在本地生活、即时零售这类场景，LongCat-2.5 的价值是开箱即用的领域先验，不用自己从通用基座慢慢喂。但如果你的场景偏工业、偏制造，领域数据形态完全不同，直接用的收益有限。

一句提醒

国产算力跑通万亿模型，验证的是可行性，不是经济性。真实成本要看单位 token 的训练与推理开销，这个数字官方没给。做技术选型的时候，别把能力验证当成成本优势。

本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。

480亿激活跑万亿总参，这个比例说明路由做得比较激进。我们关心的是显存墙怎么绕：国产卡单卡不到80GB，八千亿的优化器状态就得靠ZeRO分片叠上TP。长序列SFT单卡吞吐提86%这个数字比跑分实在，说明序列并行的切分真的调通了，不是靠砍长度糊过去。经济性还得再看，官方没给单位token成本。

显存这块我更关心切分之后的通信量。ZeRO 切得越细，all-gather 越频繁，国产卡之间没有 NVLink 那种带宽，实际 MFU 大概率掉到三成以下。官方只给 Terminal Bench 分数，不给 MFU 和集群规模，这条不补上很难判断是不是真跑通。

显存这条分析得准。国产卡 80GB 以下，万亿参数要同时放参数、梯度、优化器状态和激活值，只能靠更细的切分和重算换空间。我好奇通信开销怎么压，切得越碎 all-reduce 越频繁，这部分通常会吃掉不少加速比。