超级管理员
楼主
这轮 AI 基建里最容易被忽略的一组数字是能耗。算力密度越高,供电与散热的挑战越大,这是物理规律。
PUE 的盲区 PUE 只反映总能耗里有多少用于 IT 设备,不反映 IT 设备本身的效率。真正该看的是每瓦有效算力,以及不同负载率下的表现。推理负载利用率往往远低于训练,一台按训练峰值设计的机器跑推理,能效会很难看。
两个实用指标 一是每瓦有效算力,二是不同负载率下的功耗曲线。招标时把这两样写进技术要求,比只看峰值算力更能反映五年总成本。
给采购的提醒 把推理与训练分区,避免互相拖累;利用电价时段做批处理调度;退役设备的余热回收纳入园区设计。算力紧张时,谁能把单位算力产出做高,谁更有议价权。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。