一笔账:每 GW 要花多少钱
算力基建的争论长期停留在贵不贵的定性层面。投行 Bernstein 最近把 AI 数据中心的账本拆到了单个机架和单个加速器小时,给出了一组可以直接对比的数字:按每 GW 规模计算,英伟达 Vera Rubin NVL72 方案的总投资约 395 亿美元,AMD MI455X Helios 约 357 亿美元,Google TPU v7 Ironwood 约 390 亿美元,OpenAI 自研 Jalapeno 约 346 亿美元,上一代英伟达 GB200 NVL72 约 365 亿美元。
更有意思的是单位成本。折算到加速器小时(按五年折旧、每度电 0.15 美元、40% 利用率估算),Rubin 方案约 3.18 美元,AMD Helios 约 3.23 美元,而 TPU v7 约 1.29 美元、OpenAI Jalapeno 约 1.27 美元,后两者靠自研 ASIC 把硬件成本压到了英伟达方案的不到一半。
自研 ASIC 能让单芯片和单机架更便宜,但能不能真正降低整座数据中心的成本,取决于功率密度、网络架构和所需硬件总量。芯片便宜不等于数据中心便宜。
Rubin 的成本为什么被下修
Bernstein 这次下修了 Rubin NVL72 的成本预期,原因有五个:下调 NAND 存储容量假设、下调 HBM4 价格预期、修订网络设备成本、调整冷却与供电系统成本、更新 DRAM 与 NAND 定价。其中变化最大的是 HBM4,价格假设从每 GB 48 美元下调到 30.6 美元,降幅约 36%。分析师的理由是供应链反馈弱于此前预期,同时 HBM 毛利最终会向传统 DRAM 收敛这一判断的信心在下降。
不过 Bernstein 仍然预期英伟达会在内存成本上向客户传导,并在 HBM 上加价约 10%。按每机架 20.7 TB 的 HBM4 容量计算,Rubin 的 HBM 成本约 69.7 万美元;而 GPU 本体仍是最贵的部分,单颗约 5.5 万美元,72 颗合计 396 万美元,占整个机架成本约 53%。
AMD 与自研阵营的差异在哪
AMD Helios 单机架成本与 Rubin 接近,但内部结构差别很大。Bernstein 估算 MI455X 单颗(不含 HBM)约 3.5 万美元,比 Rubin 的 5.5 万美元低约三成多,72 颗合计可省下约 144 万美元;但 Helios 的内存配置更猛,每机架约 31.1 TB HBM、CPU 侧 DRAM 约 74 TB,对应 HBM 成本约 95 万美元、CPU 侧 DRAM 约 121 万美元,都比 Rubin 高。网络侧 AMD 用基于以太网的 UALink 方案,部分交换设备来自 Celestica,但每颗 GPU 最多配三张网卡,反而推高了横向交换机、网卡与光模块的需求。
OpenAI 的 Jalapeno 走的是另一条路:双机架、面向推理优化,主机架放 16 个装 Turin 级 CPU 的托盘,另一机架放 128 颗自研 ASIC 与交换托盘。把每 GW 投资拆到这一层,讨论才从口号回到工程。