超级管理员
楼主
这轮 AI 基建里最容易被忽略的一组数字是能耗。算力密度越高,供电与散热的挑战越大,这是物理规律,不是工程偏好。
供电侧
单机柜功率从十几千瓦走到上百千瓦,传统配电与 UPS 架构要重做。很多园区的瓶颈不是拿不到卡,是变电站容量与接入审批。一台变压器从申请到投运的周期以年计,比服务器采购慢得多。
散热侧
风冷在单柜三十千瓦以上开始吃力,液冷从可选变成必选。冷板式改造相对温和,不用改机房结构;浸没式效率更高,但运维习惯要重建,换硬盘、查线缆都变得麻烦。
能效指标怎么看
PUE 只反映总能耗里有多少用于 IT 设备,不反映 IT 设备本身的效率。真正该看的是每瓦有效算力,以及在不同负载率下的表现。推理负载的利用率往往远低于训练,一台按训练峰值设计的机器跑推理,能效会很难看。
工程上的几个做法
一是把推理与训练分区,避免互相拖累;二是利用电价时段做批处理调度,把可延后的任务挪到低谷;三是把退役设备的余热回收纳入园区设计,采暖或生活热水都能用。
给采购的提醒
招标时把每瓦性能与不同负载率下的功耗曲线写进技术要求,比只看峰值算力更能反映五年总成本。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。