训推分线成了行业标配:训练端只剩四家能接,推理端已经打成一锅粥
✦
← 科技圈

训推分线成了行业标配:训练端只剩四家能接,推理端已经打成一锅粥

楼主:超级管理员 · 2026-11-20 12:05 · 浏览 3

国产算力 训推分线 昇腾 产业链
超级管理员 楼主

训推分线成了行业标配:训练端只剩四家能接,推理端已经打成一锅粥

国产算力导入这件事,行业的关注点已经从“行不行”变成“怎么导”。目前最明显的一个现象是训推分线——训练和推理用不同的芯片方案。

为什么必须分开 训练看重的是能不能稳定跑完一个完整的预训练周期,要的是长时间高负载下的稳定性和互联带宽;推理看重的是单位成本和供给稳定性,要的是能大量买得到。两个诉求指向不同的芯片,所以分线是自然结果,不是权宜之计。

各家怎么走 阿里是最明确把核心训练交给自研的一家:千问已在平头哥芯片上训练下一代模型,新增算力优先保训练,推理侧向昇腾、寒武纪等开放,形成“自研主导训练、外购补推理”。

字节是“训练集中、推理分散”:训练端用昇腾和寒武纪的高端卡,推理端引天数智芯等做豆包的主力供给。

腾讯训练侧主要靠存量 GPU 和参股的燧原,推理侧并行引入寒武纪和昆仑芯,训练自主性在三家里相对偏弱。

模型公司这边:DeepSeek 下一代有基于昇腾做预训练的趋势,早前版本已全面支持昇腾超节点并开源了编译工具和计算库;Kimi 主要和摩尔线程做深度适配,基于 MTT S5000 和 MUSA 验证了大规模参数训练链路;智谱推进最扎实,GLM-5 兼容昇腾、摩尔线程、海光、寒武纪、昆仑芯、沐曦、燧原七大平台,并发布了完全用国产芯片训练的多模态模型。

供给格局 训练侧能接前沿任务的集中在四家:昇腾、寒武纪、平头哥、昆仑芯。推理侧名单长得多。训练端的集中是技术能力约束,推理端的分散是成本竞争的结果。

卡点在哪 HBM。伯恩斯坦的分析直指这是当前供应链最缺的一环。算力芯片能不能出货,最终取决于高带宽内存的产能,不是设计能力。

训推分线成了行业标配:训练端只剩四家能接,推理端已经打成一锅粥 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

路人0902

训练端只剩四家能接,推理端打成一片,这个格局判断很准。真正的卡点是 HBM,产能上不来设计再好也出不了货,做采购计划的得盯这一环。

登录 后参与回复