概览门户售前手册L1 芯片时间线L2 机柜解剖L3 光电与CPOL4 电力与液冷L5 预制 POD术语表配比模拟器GTC 档案馆生态穿透演进日志
Standalone All-in-One Reference · 离线全景参考版

NVIDIA 数据中心基础设施技术参考 · 专题网站

从算力硅片、机柜高密封装到 800V HVDC、CPO 光互联与模块化 AI Factory 的全栈工程演进

战略研判:方案要按三条时间线写,不能合成一句“全面上 800V”。A100 仍在役;H100/H200 与 GB200/GB300 NVL72 已经规模商用,后者是约 120–140kW、100% 冷板、柜内约 54V、设施侧交流进线。Vera Rubin NVL72 在 2026 年进入量产爬坡:CoreWeave 于 9 月跑上生产负载,Google Cloud 宣布 11 月起提供 A5X。800V HVDC 是 NVIDIA 为 2027 年兆瓦级机柜划定的方向,用来对接 Rubin Ultra,而不是 GB300 项目的进线前提。
Presales

售前手册

这样分层是合理的

  • 按芯片、机柜、光电、电力液冷、预制 POD 分层,和 NVIDIA 把计算单位从卡抬到柜、再抬到 AI Factory 的顺序一致,适合把机理讲透。
  • 参数放在 data/ 里,页面由构建器生成。以后只追加一代芯片,不必改版式。
  • 证据分成确认、公司自述、供应链和待核实。GTC 上的倍数不会自动变成规格书。

原先缺、本版补上的

  • 芯片原先是等权卡片。Feynman 和 H100 看起来一样“已经存在”。现在用时间线分成在役商用、规模商用、量产爬坡、已公布路标、远期概念。
  • 没有售前阅读顺序。只看物理极限,会把 2027 年的 800V 写进 2026 年的 GB300 招标。
  • 液冷页只有焦耳定律,没有选型阶梯、一次侧二次侧,也没有该向业主收集的水温、ΔT、承重和漏液策略。
  • 超微、维谛、施耐德写在同一张名单上。三者不在同一层:超微交计算柜,维谛和施耐德交配电与 CDU。同时出现时不能把功率加两次。
  • 在役的 A100 机房没有位置。改造项目会从 Hopper 讲起,和现场对不上。
  • 术语没有统一口径。同一场会上,CDU、NVL72、Scale-up 会被听成三种设备、三种网络或三种机柜。

方案五步

每一步都是为了避免把路标、峰值算力或伙伴新闻稿直接写进招标文件。

1

锁形态,而不是只锁芯片名

同一颗 B300 可以是 HGX 服务器,也可以是 GB300 NVL72 整柜。先写明卡数、是否 NVL72、OEM 是谁。形态决定后面所有接口。

2

把供货和预留分成两列

本批只写规模商用和已经能交付的爬坡产品。Rubin Ultra、Kyber、800V、CPO 放进土建预留,并标注公司路标,不写型号和价格。

3

用电柜铭牌,不用芯片峰值

整柜功率取 OEM 铭牌或联合参考设计的上限。GPU TDP、FP4 TFLOPS 和稀疏算力不参加变电站计算。性能倍数单独成页,避免被当成验收指标。

4

向业主要接口,而不是只交彩页

进线电压、可用容量、进水温度、ΔT、水质、承重、进柜通道、CDU 占地,缺一项就标成待确认,不用行业典型值填满。

5

每个接口只留一个主责方

计算柜、中压与母线、CDU 与一次侧,三张合同。新闻稿里的伙伴名单是生态,不是 BOM。

接口由谁负责

层要问清的问题主责不要交给
计算柜 NVL72 还是 HGX,托盘、歧管、铭牌功率、进场重量 超微等 OEM,或 NVIDIA DGX 渠道 施耐德、维谛不提供 GPU 托盘
柜内电源层 交流转约 54V 的 Power Shelf,随柜交付 随 OEM 机柜,电源砖常见台达等 不要再单算成一座变电站
行级与中压配电 母线槽、PDU、UPS、开关和计量 维谛、施耐德、伊顿,选一家电气主责 超微销售不承担一次系统图
液冷二次侧 CDU、冷板回路、水质和漏液 维谛、施耐德、英维克、CoolIT、Motivair 之一 不要和计算柜铭牌各算一遍热负荷
一次侧热沉 冷冻水、冷却塔或干冷器 业主现有冷站,或冷机厂商 NVIDIA 规格书不包含冷却塔
柜间网络 InfiniBand 或 Spectrum-X,光模块和交换机功耗 网络集成商,设备来自 NVIDIA 网络产品线 不要并进 NVLink 柜内带宽

液冷规划

先看机柜形态,再选散热技术。NVL72 的参考设计是冷板,不是风冷加油浸没的可替换菜单。下面的千瓦区间是工程经验,用来开场分类,不是 NVIDIA 的规范门槛。

大约 20kW 以下
风冷,封闭冷通道

A100 存量、PCIe 推理、低密度 HGX

确认地板送风和机柜进风温度还能不能守住。这是改造里最省事的一档。

大约 20–50kW
后门换热器,或节点冷板

H100/H200 训练柜的常见区间

后门换热器不动服务器内部,适合停机窗口短的改造。冷板改造要核对节点是否有接头。

大约 120–140kW
冷板 + CDU,100% 液冷主发热

GB200 / GB300 NVL72,也是 Vera Rubin NVL72 的方向

设施侧仍多为交流进线,柜内约 54V。Vertiv 与施耐德的 GB200 参考设计都写到约 132kW/柜。按铭牌留余量,不要乘上芯片峰值。

数百千瓦到兆瓦级
冷板,并讨论 800V 直流

2027 Rubin Ultra / Kyber 路标

只预留中压位置、管廊和荷载。800V 开关柜不是本批设备。NVIDIA 2025 年 5 月把 800V 的起点放在 2027 年的 1MW 级机柜。

回路怎么走

  1. 机柜歧管收集各托盘冷板的回液。
  2. 二次侧回到 CDU,在这里控制温度、流量、过滤和泄漏隔离。
  3. CDU 里的板换把热交给一次侧。
  4. 一次侧去冷冻水、冷却塔或干冷器。没有冷冻水时,用液-气 CDU 或干冷器,进水温度上限必须先问冷板规格。
  5. 两条回路的泵、过滤器和管路分开选型。二次侧的水质规格不要用楼宇冷冻水的标准代替。
纯水粗算:流量(L/min)≈ 功率(kW)× 14.3 ÷ ΔT(°C)。100kW、温差 10°C 时约为 143 L/min。乙二醇会要求更大流量。这是 [工程近似],用来发现数量级错误,不能替代 CDU 选型表。

冗余与漏液

  • CDU 按 N+1 还是 2N,问的是允许停一路泵之后训练是否继续。
  • 漏液传感器接到哪里、是否自动切断该托盘,写进运行手册,而不是只画在原理图上。
  • 快速接头型号随 OEM 锁定,不同柜子不要混插。
  • 补液、排气和维护空间留在列头,不留在通道的想象里。

超微、维谛、施耐德怎么分工

三家会同时出现在一份 NVIDIA 方案里,但分别盖住计算柜、配电与液冷,不是三台重复的机柜。

超微 Supermicro SMCI

计算柜与服务器 OEM · 白空间里的 IT 机柜

把 NVIDIA 的 HGX、MGX 和 NVL72 做成可以下单、进场、维保的整机。NVIDIA 在 Blackwell 系统伙伴名单中把超微与戴尔、HPE、广达、英业达等并列。它不负责园区中压,也不默认承包冷却塔。

  • 先确认买的是 8 卡或 16 卡 HGX 服务器,还是 GB300 NVL72 整柜。
  • 歧管通常随柜。CDU 可能是另一家,热量只计算一次。
  • 问清整柜进场还是现场装托盘。铜缆背板和液冷盲插对施工容错很低。
  • 企业和智算云常用超微这类品牌 OEM;部分超大规模云会直接找富士康、广达按参考设计代工。不要默认只有一条供应链。

[确认] NVIDIA 将 Supermicro 列入 Blackwell 系统伙伴。具体机柜铭牌以超微规格书为准。

维谛 Vertiv VRT

关键电力与液冷 · 配电、UPS、CDU、冷机,以及预制模块

2024 年 10 月 15 日,Vertiv 公布与 NVIDIA 联合的 GB200 NVL72 电力与冷却参考,覆盖最高约 132kW/柜,集群参考到约 7MW,包含 XDU CDU、冷水与房间级冷却、Trinergy UPS,并考虑 GPU 功率波动。2025 年 10 月 13 日,Vertiv 称 800V 直流产品组合计划在 2026 年下半年发布,用来对齐 2027 年 Rubin Ultra。

  • GB300 项目用 132kW 液冷参考,不把 800V 图纸当成当前进线。
  • UPS 和锂电池要区分“停电续航”和“抑制功率跳动”。
  • MegaMod 一类预制模块解决的是关键电力和冷却的现场工期,GPU 柜仍由 OEM 供货。
  • 和施耐德同时出现时,先定电气主责和 CDU 主责,避免两套参考设计各加一遍冗余。

[确认] Vertiv 新闻稿 2024-10-15 与 2025-10-13。800V 产品在 2026 年 10 月仍是即将发布的组合,不是已随 GB300 标配。

施耐德 Schneider Electric SU.PA

中压到列头的配电,以及液冷参考与监控 · 一次系统图、母线、PDU、开关和 DCIM

2024 年 12 月,施耐德公开与 NVIDIA 合作 GB200 NVL72 参考架构,液冷、最高约 132kW/柜。NVIDIA 在 2025 年 5 月的 800V 博客中把施耐德和 Vertiv、Eaton 一起列为数据中心电力系统伙伴。施耐德的长处是从中压柜、母线槽、断路器到软件监控的电气链条。

  • 一次系统图、选择性保护和计量优先和施耐德(或另一家电气主责)锁定。
  • 132kW 交流进线项目,不要提前换成 800V 直流开关柜报价。直流灭弧是下一代话题。
  • 液冷 CDU 如果也报施耐德,和 Vertiv 的 XDU 二选一作为二次侧主责。
  • EcoStruxure 一类监控是运维层,不改变热负荷计算。

[确认] 施耐德与 NVIDIA 的 GB200 参考设计见行业报道(DCD,2024-12)。800V 伙伴身份见 NVIDIA 技术博客(2025-05)。

  • 伊顿 Eaton。保护器件、母线和固态变压器方向上的电力系统伙伴。NVIDIA 2025 年 5 月的 800V 名单中与维谛、施耐德并列。适合讨论协调保护和未来直流,不替代计算柜。
  • 台达 Delta。高密度机架电源和 Power Shelf 一类转换模块。它在柜内,随整柜交付的情况很多。不要把它报成园区变电站。
  • 英维克 Envicool。NVIDIA 公布的 Blackwell 数据中心基础设施生态里包含 Envicool。在国内项目中,英维克经常作为 CDU 和冷板的本地界面。先确认它是二次侧供应商,还是只供应末端。
  • CoolIT、Motivair。冷板和 CDU 专家,常出现在机柜物料里,而不是总包合同的封面。选型时核对换热量即可,不要再单独加一份 IT 功率。

第一次踏勘要问的十件事

  1. 本批是 HGX 服务器还是 NVL72 整柜?代际是 H200、GB200、GB300,还是要等 Vera Rubin 的交付窗口?
  2. 整柜铭牌功率、重量、深度、进场路径和楼板荷载是否已经有 OEM 图纸?
  3. 进线是哪一级电压,列上还剩多少千瓦,母线槽插接箱的规格是多少?
  4. 要的是市电中断后的续航时间,还是只抑制 GPU 功率波动?
  5. 有没有可用冷冻水?供水温度和允许的 ΔT 是多少?
  6. 一次侧水质能否与二次侧隔离?二次侧是否允许乙二醇?
  7. CDU 放在列头还是独立房间,冗余是 N+1 还是 2N?
  8. 漏液之后是告警、切断单托盘,还是整柜掉电?
  9. 柜间网络选 InfiniBand 还是 Spectrum-X?光模块功耗是否另计?
  10. 2027 年是否预留中压和管廊给 800V?预留是否被误写成了本批设备?
Glossary

术语表

这些词会同时出现在芯片发布会和机房图纸里,但两边指的不是同一层东西。每条先给一句能对业主说的话,再解释它影响哪一项设施,最后说明售前报价时最容易混的地方。

算力与芯片

GPU

图形处理器,在这里就是 AI 加速芯片

真正干活、也真正发热的那颗芯片。

在智算中心里,GPU 不再是显卡,而是训练和推理的算力单元。NVIDIA 的数据中心 GPU 以 SXM 模组或整机柜的形式出现,单颗功耗从 A100 的约 400W 走到 Blackwell 的 1000W 以上。机房要准备的电和冷,最终都是为这些芯片服务的,但芯片功耗不等于机柜铭牌。

售前时:对业主说“一颗 GPU”,同时问清对方买的是芯片、8 卡服务器,还是 72 卡整柜。三种东西的电、冷、承重完全不同。

TDP

热设计功耗

冷却系统必须能持续带走的设计上限,不是平均电费。

TDP 是芯片厂商给散热器出的题:在这颗芯片按设计满载时,冷板或散热器要能把这么多热搬出去。实际运行会低于 TDP,也会在短时间里冲高。训练任务的功率还会像呼吸一样起伏,所以上游空开和 UPS 看到的是一条跳动的曲线,不是一条直线。

售前时:不要用“GPU TDP × 卡数”直接当机柜功率。NVL72 还要加上 CPU、NVSwitch、网卡、电源转换损耗。整柜以 OEM 铭牌为准,TDP 只用来检查数量级。

SXM 与 PCIe

两种 GPU 的物理形态

SXM 是焊在高功耗模组上的训练形态,PCIe 是插卡。

SXM 通过板对板连接吃满 NVLink,功耗高,必须认真对待散热,NVL72 里的 GPU 都是这种模组。PCIe 卡插在普通服务器上,互联和功耗都更受限,常见于推理、图形和利旧机房。同一代芯片往往两种形态都有,价格和机房条件却不是一回事。

售前时:客户说“买 H100”时先问 SXM 还是 PCIe。PCIe 方案可以沿用更多风冷机柜;SXM 训练集群才需要讨论冷板和 NVLink 域。

HBM

高带宽显存

贴在 GPU 旁边的内存,决定模型装不装得下、喂数据喂得快不快。

HBM 和普通内存条不同,它和 GPU 封装在同一块基板上,用很宽的接口提供极大带宽。容量不够时,模型要拆到很多张卡上,通信变多;带宽不够时,算力在等数据。从 HBM2e、HBM3、HBM3e 到路标中的 HBM4,代数越高,通常越宽、越堆得高,也越依赖先进封装产能。

售前时:业主说“算力还够、就是跑不动长上下文”时,优先看显存容量而不是 FP4 峰值。显存是采购规格,不是机房能后补的。

CoWoS

台积电的 2.5D 封装

把 GPU 裸片和几颗 HBM 封到同一块硅中介层上的工艺。

先进封装决定这颗芯片能不能按期做出来,也决定 HBM 能堆多高。CoWoS-S 常见于单颗大芯片,CoWoS-L 用来把 Blackwell 这样的两颗计算芯片和更多 HBM 连在一起。它是晶圆厂里的工序,不是机房里的安装步骤。

售前时:供货紧张时,瓶颈常常在封装和 HBM,不在你方的 PDU。方案里不要承诺“封装可替代”,交期要单独风险提示。

FP8 与 FP4

8 位 / 4 位浮点

用更少的位数表示一个数,换速度和显存,精度也更低。

训练和推理不必始终使用 16 位或 32 位。FP8 从 Hopper 开始成为可用精度,FP4 从 Blackwell 开始主要用于推理。位数减半,同样的电路可以吐出更多结果,模型权重也更小。不同精度的 TFLOPS 不能直接相除成“快了几倍”。

售前时:对比两代芯片时,写明比的是哪一种精度。把 Blackwell 的 FP4 峰值除以 Hopper 的 FP8 峰值,会得到一个不能验收的倍数。

超级芯片 Grace / Vera

和 GPU 配对的 NVIDIA CPU

Grace 配 Hopper 和 Blackwell,Vera 配 Rubin,负责把数据喂给 GPU。

NVL72 不是 72 颗 GPU 单独躺在机柜里。GB200 / GB300 是 36 颗 Grace CPU 加 72 颗 GPU;Vera Rubin NVL72 换成 36 颗 Vera CPU 加 72 颗 Rubin GPU。CPU 同样上冷板、同样耗电。它和 GPU 之间有高速连接,所以厂商把它叫超级芯片,而不是外插一颗普通服务器 CPU。

售前时:清点发热器件时把 CPU 和 NVSwitch 算进去。只按 72 颗 GPU 的 TDP 做 CDU,会在满载时不够。

Transformer Engine

面向 Transformer 模型的精度调度

芯片里专门为大模型低精度计算准备的电路和软件配合。

从 Hopper 开始,NVIDIA 把 FP8 矩阵运算和动态精度缩放做成一套可用能力,让大模型训练不必全程用更高精度。它是芯片功能,不是一款可以单独采购的设备,也不改变机柜怎么接水和接电。

售前时:业主问“Transformer Engine 要不要单独配电源”时,答案是不要。它影响的是软件栈和有效算力,不影响一次系统图。

机柜与系统

HGX、DGX、MGX

三种“整机从哪来”

HGX 是给 OEM 的 GPU 底板,DGX 是 NVIDIA 自己的整机,MGX 是更开放的服务器骨架。

HGX 把 8 颗或更多 SXM GPU 做成一块参考底板,超微、广达、戴尔等在上面做自己的服务器。DGX 是 NVIDIA 品牌的整机或整集群,软件和硬件一起交付。MGX 是模块化服务器规格,CPU、GPU、网卡可以按菜单搭配,方便 OEM 做差异化。NVL72 又是另一层:它是整柜参考设计,不再是把几台 HGX 服务器堆进 42U 机架。

售前时:先写清合同主体是 NVIDIA DGX、还是超微等 OEM 的 HGX/MGX 服务器、还是 NVL72 整柜。三者的维保界面不同。

NVL72

72 颗 GPU 的 NVLink 机柜

一个机柜就是一个 72 卡计算域,是现在报价和机房设计的基本单位。

名字里的 72 是 GPU 数量。GB200、GB300 和 Vera Rubin 都有 NVL72 这一档:18 个计算托盘加 9 个 NVLink 交换托盘是 GB200 一代的典型构成,具体托盘数以代际图纸为准。柜内用铜缆或后续的无缆盲插把这些 GPU 连成一块大显存,而不是用光纤交换机临时拼起来。

售前时:客户说“买 1000 张卡”时,先换成“大约多少台 NVL72,余数用什么服务器补”。机柜数决定列头配电、CDU 和楼板,卡数本身不够。

Oberon

GB200 / GB300 NVL72 的机柜结构代号

这一代液冷整柜的机械和电气骨架,不是一颗芯片的名字。

Oberon 描述的是机柜:计算托盘、交换托盘、柜内铜缆背板、约 54V 母排和液冷歧管怎么叠在一起。GB200 和 GB300 都落在这个骨架上,所以机房接口可以沿用,差别主要在 GPU 显存、功耗和铭牌。它和 Kyber 是前后两代机柜,不要把两个代号当成两个供应商。

售前时:图纸上写 Oberon,业主会以为是新型号。对业主说“GB200/GB300 这一代 NVL72 机柜”更不容易买错。

Kyber

面向 Rubin Ultra 的下一代高密机柜代号

2027 年路标里的机柜,不是现在能进场的柜子。

公开路标把 Kyber 和 Rubin Ultra、更高的单柜功率、800V 直流放在一起讨论,密度和供电都高于 Oberon。2026 年 10 月它还没有成为可下单产品。结构荷载、管廊和变电站用地可以预留,接头规格和开关柜不能按它采购。

售前时:方案分“本批交付”和“土建预留”两列。Kyber 只出现在第二列。

计算托盘与交换托盘

机柜里的两层抽屉

计算托盘放 CPU 和 GPU,交换托盘放 NVLink 交换机,合起来才是一台 NVL72。

传统服务器是一台机箱加顶部交换机。NVL72 把交换机也做成机柜中部的托盘,用背板和计算托盘互联。液冷歧管要同时喂到这两种托盘。维护时抽的是托盘,不是整台 4U 服务器。Vera Rubin 强调无缆盲插,就是希望托盘推进去时电接头和液冷接头自动对上。

售前时:备件和维保按托盘谈,不要只谈“服务器台数”。现场通道要允许托盘抽出。

Power Shelf

机柜集中电源层

在机柜里把交流变成约 54V 直流的那一层电源,替代每台服务器自带电源。

NVL72 不再让每个计算节点自带 CRPS 电源。柜内有若干电源层,把设施送来的交流整成直流母排,再送给托盘。这些电源砖的厂家常常是台达等电源厂商,随整柜交付。它解决的是柜内最后一段转换,不是园区变电站。

售前时:Power Shelf 的损耗已经含在整柜铭牌附近的工程余量里。不要再向业主单报一座“电源柜功率”加到 IT 负荷上,除非它是柜外的 sidecar。

铜缆背板

柜内 NVLink 铜连接

GB200 一代用大量铜缆在柜内把 72 颗 GPU 连起来,又重又不能随意弯折。

在机柜这个距离上,铜仍然比可插拔光模块省电。代价是背板很重、安装容错低。这是 Oberon 机柜运输和现场组装要单独写进施工方案的原因。更后面的代际用盲插和无缆托盘减轻这件事,但没有取消柜内高速互联。

售前时:进场路线、电梯和机柜承重按整柜运输考虑。不要假设现场可以像跳线一样改 NVLink 拓扑。

网络互联

Scale-up 与 Scale-out

域内放大,和跨域连成集群

Scale-up 是把一个 NVLink 域做大;Scale-out 是把很多域用网络连起来。

训练一个放不进单柜显存的模型,先靠 Scale-up 减少通信,再靠 Scale-out 增加柜数。两种扩展使用不同的交换机、线缆和故障域。机房布线、光模块备件和交换机功耗都落在 Scale-out 这一侧。

售前时:问客户模型并行要跨多少柜。只做推理、单柜就能放下的业务,Scale-out 交换机可以小得多,电量和光模块不要按万卡训练去抄。

InfiniBand

NVIDIA 的低延迟集群网络

柜与柜之间走的专用网络,追求时延和拥塞控制,而不是通用上网。

Quantum 系列交换机和 ConnectX 网卡组成 InfiniBand 网络,是很多 NVIDIA 训练集群的 Scale-out 选择。它和机房办公网、带外管理网不是一回事,通常要单独的光纤布线。

售前时:光模块速率(400G、800G、1.6T)决定交换机功耗和光纤等级。这项负荷要单独列出,不要藏进 GPU 机柜铭牌。

Spectrum-X 与 RoCE

面向 AI 的以太网路线

用以太网承载 GPU 之间的流量,同时尽量避免丢包。

RoCE 是跑在以太网上的 RDMA。普通以太网会丢包,训练通信对丢包很敏感,所以 NVIDIA 用 Spectrum-X 交换机和网卡做拥塞控制。它和 InfiniBand 是两条 Scale-out 路线,选哪条取决于客户现有运维体系和多租户需求。

售前时:一个集群不要两套 Scale-out 同时当生产网来设计。选定之后,光模块、交换机冗余和运维团队按这一套报价。

CPO

共封装光学

把光引擎和交换芯片做在一起,少用可插拔光模块。

速率走到 1.6T 以后,可插拔模块又耗电又占面板。CPO 让光靠近芯片,功耗下降,但交换机更依赖液冷,激光器往往外置以便更换。它改变的是交换机这一层的散热和备件,不是 GPU 冷板本身。

售前时:2026 年的 GB300 方案仍以可插拔光模块为主。CPO 写进路标和机房预留,不写进本批光模块清单,除非招标文件明确指定。

ConnectX 与 BlueField

网卡,和带处理器的 DPU

ConnectX 负责收发数据,BlueField 还能在网卡上跑网络、存储和安全任务。

SuperNIC 是 NVIDIA 对面向 AI 东西向流量的智能网卡的叫法,ConnectX-9 出现在 Vera Rubin 平台公开材料里。BlueField 是 DPU,上面有自己的处理器,可以把一部分基础设施软件从主机 CPU 上挪走。两者都占机柜功耗和插槽,但远小于 GPU。

售前时:网卡带宽决定 Scale-out 交换机怎么配。DPU 是否启用是软件架构问题,不要为了“有 BlueField”就加大一级变电站。

供电

54V 母排

柜内低压直流

GB200/GB300 机柜内部用大约 48–54V 的直流铜排把电送给托盘。

电压低,同样功率下电流就很大。132kW 在 54V 下电流大约 2400 安,所以铜排又粗又热。这是柜内的配电,设施侧多数时候仍然是交流进到 Power Shelf。它和园区的中压、和未来的 800V 不是同一个接口。

售前时:对电气工程师说清楚:54V 是柜内母排,招标文件里的“市电 415V”仍然成立。不要把 54V 理解成机房要新建一座 54V 变电站。

800V HVDC

高压直流进机柜

把柜内母线电压抬到 800V 左右,电流大约降到原来的十五分之一。

功率等于电压乘电流。电压提高,铜排可以细很多,转换级数也有机会减少。NVIDIA 在 2025 年 5 月把这件事定义为 1MW 级机柜的方向,起始窗口是 2027 年,用来承接 Rubin Ultra 一类机柜。GB200 的 132kW 参考设计并没有要求机房先改成 800V。

售前时:2026 年的 GB300 项目,电气主方案仍按交流进线和柜内 54V 来做。800V 只出现在“2027 预留”里,并注明开关柜、直流保护和母线都还没有本批供货。

SST

固态变压器

用电力电子替代一部分传统变压器,以便更直接地得到直流。

传统路径是中压交流变成低压交流,再经 UPS 和电源砖多级转换。SST 希望把其中几级折叠掉,提高效率,并为 800V 直流提供来源。它是下一代供电的设备形态,体积、保护和运维规程都还在和 Vertiv、Eaton、施耐德一起工程化。

售前时:没有 800V 项目就不要报 SST。业主现有的油浸或干式变压器不会因为买了 GB300 就作废。

UPS 与 BBU

不间断电源,和电池备份单元

UPS 保住整段市电中断,BBU 更多是为了接住 GPU 功率的突然跳动。

训练步与步之间功率会骤升骤降。如果上游只按平均功率选空开,冲击会跳闸。电池或超级电容可以在毫秒到秒级把这个尖峰填平。这和“市电停了还能训多久”是两个需求,容量算法不同。

售前时:问客户要的是停电续航,还是只抑制功率波动。后者不需要按全功率后备 15 分钟去放大电池室。

PDU 与母线槽

列头到机柜的配电

母线槽是列上的主干,PDU 是进机柜前的分配和计量。

高密机柜往往不再用地板下拖一把电缆到每台机柜,而用架空母线槽,插接箱取电。132kW 机柜的插接箱、接插件和上游开关都要按这个电流选,传统 8–15kW 的 PDU 规格不够。直流母线是 800V 阶段的另一种主干,和今天的交流母线槽不要画成同一条线。

售前时:把每柜功率交给电气伙伴选母线,不要在 GPU 报价单里用“含 PDU”一笔带过。

PUE

电能利用效率

全厂用电除以 IT 用电。越接近 1,说明制冷和配电损耗越少。

液冷通常能把 PUE 做低,因为热量不必全部靠空调吹走。但 IT 本身从 40kW 变成 140kW 之后,总电量仍然大幅上升。PUE 从 1.4 降到 1.15,省下的是辅助用电的比例,不是 GPU 的电。

售前时:向业主同时报 IT 功率和全厂功率。只说“PUE 可以做到 1.15”会让人误以为电费下降。

液冷与热

冷板液冷

DLC,Direct Liquid Cooling

冷却液流过贴在芯片上的金属冷板,把热带走。服务器本身不泡在液体里。

NVL72 的参考设计就是冷板:GPU、CPU、NVSwitch 上有冷板,托盘通过接头接到机柜歧管。空气仍可能负责少量次要器件,但主发热不再靠风扇。冷板是 NVIDIA 这一代机柜的路径,浸没式不是它的替换件。

售前时:客户现有浸没槽不能直接放入一台 NVL72。接口是歧管、快速接头和 CDU,不是油槽。

CDU

冷量分配单元

站在机房的水和 GPU 冷却液之间,控制温度、流量和压力。

CDU 用板式换热器把两侧隔开。二次侧是干净、可控的冷却液,进入冷板;一次侧是冷冻水、冷却水或干冷器回路。它还负责过滤、补液、泄漏隔离和泵的冗余。可以把它理解成液冷系统的分集水器加上板换,不是另一台空调。

售前时:CDU 可能由维谛、施耐德、英维克或 CoolIT 提供,不一定和计算柜同一品牌。选型看换热量、扬程和冗余,不要按“一柜一台”想当然。

一次侧与二次侧

机房水,和进冷板的水

一次侧属于楼,二次侧属于 IT 液冷回路,中间用换热器隔开。

楼宇冷冻水里可能有脏污、水处理药剂和更高的压力,不能直接灌进 GPU 冷板。二次侧用指定的水或水-乙二醇,电导率和颗粒度受控。热量从二次侧传到一次侧,再由冷机、冷却塔或干冷器排到室外。

售前时:图纸上两条回路都要画。只写“接冷冻水”而没有 CDU,等于让脏水进冷板。

ΔT 与流量

进出水温差

同样的热量,温差越小,需要的流量越大。

水的比热大约是 4.18 kJ/kg·°C。粗算时,流量(升/分钟)≈ 功率(千瓦)× 14.3 ÷ ΔT(°C)。100kW、温差 10°C 时,纯水大约 143 L/min。乙二醇比热更低,流量还要放大。泵、管径和 CDU 都按流量选型。

售前时:这是校核数量级的公式,标签是工程近似。正式数字以冷板允许的进水温度和 CDU 选型表为准,并留过滤器和冗余回路的余量。

快速接头

UQD / QD,无滴漏插头

拔开液冷管路时尽量不漏液的接头,托盘靠它维护。

NVL72 的托盘要能抽出。接头如果滴液,就会滴到带电部件上。盲插还要求托盘推进机柜时接头自动对准。接头品牌(如 CPC、Staubli)往往不是整柜品牌,但规格必须和歧管匹配,不能现场混用。

售前时:维保手册里写清接头型号和插拔寿命。不同 OEM 的接头不要假设通用。

后门换热器

RDHx

机柜后门里通水,把即将排进机房的热风就地冷却。

它不接触芯片,仍然是风冷服务器,只是把热交换挪到柜门。对 20–40kW 的 Hopper 改造很有用,因为不必更换成冷板节点。到了 100kW 以上的 NVL72,后门换热器接不住主发热,只能作为辅助。

售前时:存量 H100 机房优先评估 RDHx 或冷板改造。不要给 A100 风冷集群直接报一套 NVL72 CDU。

浸没式液冷

把服务器泡在冷却液里

散热能力强,但 NVIDIA 的 NVL72 参考设计不走这条路。

单相浸没用高沸点冷却液,两相浸没靠液体沸腾。它对部分自建服务器有效,机柜形态、承重和维护流程都和标准机架不同。Oberon 机柜的连接器、铜缆背板和托盘是按冷板设计的,不能原样放入浸没槽。

售前时:只有客户明确采购浸没服务器时才做浸没方案。和 NVL72 放在同一张图纸里时,分成两种机柜,不要共用一套接头。

白空间与灰空间

放机柜的房间,和放配电冷机的房间

GPU 越密,灰空间占的面积比例越高。

白空间是 IT 机柜。灰空间是变配电、UPS、CDU、水处理和冷机。40kW 风冷机房里,空调可以贴着机房。140kW 液冷之后,列头要留 CDU 和管路,楼外要留冷却塔或干冷器。只按机柜占地算租赁面积,会把 CDU 挤没。

售前时:平面图同时标白空间机柜列和灰空间设备。预制 POD 是把一部分灰空间提前做到工厂里,现场仍然要接一次侧水电。

交付与生态

参考架构

Reference architecture

厂商公布的一套可复制设计,不是已经装好的设备清单。

NVIDIA 与 Vertiv、施耐德分别公布过 GB200 NVL72 的电力和冷却参考,用来告诉机房大概如何配 132kW 液冷柜。它给出边界和推荐拓扑,具体型号仍要按项目选型。参考架构能缩短设计,不能代替施工图。

售前时:对业主说“按某参考架构”,后面附上功率边界和仍需确认的水温、冗余。不要把参考架构当成交钥匙合同。

SuperPOD 与 DSX POD

集群参考,和预制舱

SuperPOD 规定计算、存储、网络怎么配;POD 把它们预先装进模块里运到现场。

SuperPOD 是逻辑和物理的参考单元,常见以若干机柜为一组。预制 POD 或集装箱把机柜、部分配电和 CDU 在工厂装好,现场接水接电。预制省的是现场安装时间,不是电和水。一次侧的变电站和冷却塔通常仍在舱外。

售前时:问清交付界面停在舱体法兰,还是包含室外冷源。72 小时上电指的是接口已经就绪之后。

ODM 与 OEM

代工,和贴自己品牌的整机厂

广达、富士康多按设计代工;超微、戴尔、HPE 更多以自己的品牌整机卖给客户。

同一台 NVL72 的机械设计可以来自 NVIDIA 参考,制造在富士康或广达,品牌合同却可能签在超微。云厂商还可能跳过品牌 OEM,直接和 ODM 定制。电气和液冷伙伴又是第三条合同。三条链都出现在新闻稿里,不代表要向三家各买一台柜子。

售前时:合同上的供货责任人只能有一个计算柜主体。其他名字写进配套界面。

OCP 与 ORv3

开放计算项目的机架规范

云厂商用的开放机柜标准。ORv3 用 48V 母排给整柜供电。

Open Compute Project 让机柜、电源和液冷接头有公开规格,减少每家一种私有机架。ORv3 的 48V 母排是理解 NVL72 柜内 54V 的前史:都是低压直流进节点,只是功率已经从几千瓦柜走到百千瓦柜。NVIDIA 也把 GB200 的部分机械和液冷设计回馈给 OCP。

售前时:客户如果坚持原有 ORv3 机柜,要核对深度、母排电流和液冷盲插,不能只看“都是 48V”就认为能插入 NVL72 托盘。

Layer 01 · Silicon

GPU 商用时间线

  1. 2020
    在役商用
    Ampere
    A100 · HGX A100

    按风冷加封闭通道,或后门换热器做过渡。不要套用 NVL72 的冷板接头和 54V 母排。跨服务器通信走 InfiniBand,柜内没有 72 卡统一域。

  2. 2022
    规模商用
    Hopper
    H100 · H200 · GH200 Grace Hopper

    新建可上冷板,改造多用封闭通道或后门换热器。整柜按约 40kW 做配电和气流,不要按 GB300 的 140kW 去报 CDU。GH200 把 Grace CPU 和 H100 做在同一超级芯片上,功耗和液冷接口要单独核对。

  3. 2024
    规模商用
    Blackwell
    B200 · GB200 Grace Blackwell

    设施侧是交流进线(常见三相 415V)到柜内 Power Shelf,再转约 54V 母排。100% 冷板,必须有 CDU、二次侧和承重(机柜常在 1.5 吨级,深度大于标准机柜)。800V 不是这一代的进线前提。Vertiv、施耐德的联合参考设计都以约 132kW/柜为上限来写。

  4. 2025
    规模商用
    Blackwell Ultra
    B300 · GB300 Grace Blackwell Ultra · HGX B300 NVL16

    液冷和配电接口沿用 GB200:冷板、CDU、柜内约 54V、交流进线。整柜按约 140kW 做余量,而不是按单卡 1400W 乘 72 再自行加损耗。另有 HGX B300 服务器形态,密度低于整柜,报价前先确认客户买的是哪一种。

  5. 2026
    量产爬坡
    Vera Rubin
    Rubin GPU · Vera CPU · Vera Rubin NVL72

    按新一代液冷机房准备:冷板、CDU、承重、进柜通道,并消化无缆托盘带来的安装工艺变化。不要把 800V 写成这一批的强制进线。性能倍数是 NVIDIA 相对 Blackwell 的宣传口径,负荷计算仍等铭牌。

  6. 2027
    已公布路标
    Rubin Ultra
    Rubin Ultra GPU · Kyber 机柜

    只做预留:中压位置、未来直流母线通道、更大的 CDU 和楼板荷载。预留不等于本批采购。负荷计算如果写入 600kW,必须标注路标,并和客户确认这不是近期并网的容量。

  7. 2028+
    远期概念
    Feynman
    Feynman GPU

    不进入负荷、不预留具体接头。若客户要求“一次建设管到 2028”,把预留限制在建筑层:层高、荷载、管廊和变电站用地,不要预购未定义的机柜。

Ampere
A100 · HGX A100
在役商用
发布与交付2020-05 (GTC 2020)
证据等级[确认]
制造工艺TSMC 7nm
晶体管规模542 亿
封装方案CoWoS 单 Die
显存配置40GB / 80GB HBM2e
单卡功耗 TDP400W (SXM4)
互联协议NVLink 3(SXM4 双向约 600 GB/s)
机柜与设施HGX A100 8 卡服务器,整柜常见十余到三十千瓦,风冷为主
大模型训练的上一代底座。2026 年新建旗舰已经让位给 Hopper 和 Blackwell,但大量存量机房仍在跑 A100。改造方案要从这一代写起,而不是假装机房是空的。

设施准备:按风冷加封闭通道,或后门换热器做过渡。不要套用 NVL72 的冷板接头和 54V 母排。跨服务器通信走 InfiniBand,柜内没有 72 卡统一域。

参数来自已发布的 A100 SXM 规格,属于在役产品,不是路标。

Hopper
H100 · H200 · GH200 Grace Hopper
规模商用
发布与交付2022-03 (GTC 2022),H200 于 2024 起放量
证据等级[确认]
制造工艺TSMC 4N (定制 5nm)
晶体管规模800 亿 (80B)
封装方案CoWoS-S 单 Die
显存配置80GB HBM3 (H100) / 141GB HBM3e (H200, 4.8 TB/s)
单卡功耗 TDP700W (SXM5)
互联协议NVLink 4 (900 GB/s 双向吞吐)
机柜与设施HGX H100/H200 (8-GPU 模组,通常配 4U 风冷或液冷服务器,整柜约 40kW)
仍在规模出货的训练主力。首次把 Transformer Engine 做成可部署的产品,NVLink 域还停在单服务器 8 卡,柜与柜之间靠网络,而不是靠一整柜铜缆背板。

设施准备:新建可上冷板,改造多用封闭通道或后门换热器。整柜按约 40kW 做配电和气流,不要按 GB300 的 140kW 去报 CDU。GH200 把 Grace CPU 和 H100 做在同一超级芯片上,功耗和液冷接口要单独核对。

H100 / H200 为已商用规格。稀疏算力是峰值口径,方案对比时要和客户对齐是否含稀疏。

Blackwell
B200 · GB200 Grace Blackwell
规模商用
发布与交付2024-03 发布 (GTC 2024),随后按机柜交付
证据等级[确认]
制造工艺TSMC 4NP (定制双掩模版极限)
晶体管规模2080 亿 (208B,双 Die 互联)
封装方案CoWoS-L (10 TB/s 高速芯片间互联 NV-HBI)
显存配置192GB HBM3e (8TB/s 带宽)
单卡功耗 TDP1,000W - 1,200W
互联协议NVLink 5 (1.8 TB/s 双向吞吐,单域最高 576 GPU)
机柜与设施GB200 NVL72 (Oberon 架构,36 颗 Grace CPU + 72 颗 Blackwell GPU,单柜约 120–132kW,100% 液冷)
计算单元从服务器变成机柜。GB200 NVL72 把 72 颗 GPU 和 36 颗 Grace CPU 用 NVLink 铜缆背板连成一个域,冷板液冷不再是可选项。B100 曾被公布,规模交付的是 B200 与 GB200 整柜。

设施准备:设施侧是交流进线(常见三相 415V)到柜内 Power Shelf,再转约 54V 母排。100% 冷板,必须有 CDU、二次侧和承重(机柜常在 1.5 吨级,深度大于标准机柜)。800V 不是这一代的进线前提。Vertiv、施耐德的联合参考设计都以约 132kW/柜为上限来写。

机柜功率各家口径在 120–132kW。合同以所购 OEM 的铭牌为准,本站取这一区间做方案量级。

Blackwell Ultra
B300 · GB300 Grace Blackwell Ultra · HGX B300 NVL16
规模商用
发布与交付2025-03 (GTC 2025),2025–2026 放量
证据等级[确认]
制造工艺TSMC 4NP 优化版
晶体管规模2080 亿+
封装方案CoWoS-L (升级 12 层堆叠 HBM3e)
显存配置288GB HBM3e (12-Hi 堆叠,单卡显存容量较 B200 提升 50%)
单卡功耗 TDP1,400W
互联协议NVLink 5+ (1.8 TB/s,优化推理突发吞吐)
机柜与设施GB300 NVL72 (Oberon 升级版,72 颗 B300,整柜约 140kW)
推理和长思考模型的当前商用载体。显存从 192GB 提到 288GB,机柜仍是 Oberon NVL72 这一族。云厂商常把 GB200 与 GB300 放在同一套运维流程里。

设施准备:液冷和配电接口沿用 GB200:冷板、CDU、柜内约 54V、交流进线。整柜按约 140kW 做余量,而不是按单卡 1400W 乘 72 再自行加损耗。另有 HGX B300 服务器形态,密度低于整柜,报价前先确认客户买的是哪一种。

140kW 是方案量级。Google Cloud 在 2026 年 10 月仍把 GB300 NVL72 作为在售裸金属实例来讲,说明它没有被 Vera Rubin 替换。

Vera Rubin
Rubin GPU · Vera CPU · Vera Rubin NVL72
量产爬坡
发布与交付2026-03 GTC 发布;2026 年下半年伙伴与云开始交付
证据等级[确认] 平台已量产
制造工艺TSMC 3nm 家族 (定制 N3P)
晶体管规模平台级,单芯晶体管数以规格书为准
封装方案CoWoS-L,机柜强调无缆托盘
显存配置HBM4(容量以到货规格书为准,路标材料中出现过更高容量)
单卡功耗 TDP高于 Blackwell,整柜功率以 OEM 铭牌为准
互联协议NVLink 6(带宽相对上一代翻倍,绝对数以规格书为准)
机柜与设施Vera Rubin NVL72(36 颗 Vera CPU + 72 颗 Rubin GPU,100% 液冷,无缆托盘)
2026 年 10 月的状态是:已经量产,并且开始有生产负载,但还不是像 H100 那样随处可下单的存量产品。CoreWeave 于 2026 年 9 月 30 日宣布 Cognition 在 Vera Rubin NVL72 上跑生产推理;NVIDIA 与 Google Cloud 于 2026 年 10 月 21 日宣布 A5X 实例将于次月一般可用。平台公开包含 Vera CPU、Rubin GPU、NVLink 6 交换、ConnectX-9、BlueField-4 与 Spectrum-6。

设施准备:按新一代液冷机房准备:冷板、CDU、承重、进柜通道,并消化无缆托盘带来的安装工艺变化。不要把 800V 写成这一批的强制进线。性能倍数是 NVIDIA 相对 Blackwell 的宣传口径,负荷计算仍等铭牌。

交付事实为 [确认]:CoreWeave 新闻稿(2026-09-30)、NVIDIA / Google Cloud 博客(2026-10-21)。算力倍数为 [公司自述]。早期卡片里的 5 万 TFLOPS、384GB 等数字不再当作规格。

Rubin Ultra
Rubin Ultra GPU · Kyber 机柜
已公布路标
发布与交付2027 路标(GTC 2025/2026 披露,对准 800V)
证据等级[公司自述]
制造工艺TSMC 3nm / 后续衍生代,以量产公告为准
晶体管规模未作为合同参数公布
封装方案更高密度封装,路标中出现四 Die 拼接的说法
显存配置路标指向 HBM4 / HBM4e 更大容量,数字未冻结
单卡功耗 TDP单柜朝数百千瓦到兆瓦级发展,600kW 是本站用于量级讨论的路标值
互联协议NVLink 6 之后的域扩展,含更高功率机柜
机柜与设施Kyber 机柜(路标中的 NVL576 高密形态,原生讨论 800V HVDC)
下一代机柜代号,不是 2026 年 10 月可以下单的产品。NVIDIA 把 800V HVDC 明确对准 2027 年起的兆瓦级机柜,Vertiv 也把 800V 产品组合对准 Rubin Ultra,而不是对准已经在跑的 GB300。

设施准备:只做预留:中压位置、未来直流母线通道、更大的 CDU 和楼板荷载。预留不等于本批采购。负荷计算如果写入 600kW,必须标注路标,并和客户确认这不是近期并网的容量。

600kW、576 Die 来自公开路标讨论,证据等级是 [公司自述],不能当成铭牌。

Feynman
Feynman GPU
远期概念
发布与交付2028 及以后
证据等级[待核实]
制造工艺公开讨论指向 TSMC A16 一类更先进节点,未定
晶体管规模未定
封装方案未定。行业讨论包含更紧密的三维堆叠和共封装光学
显存配置未定
单卡功耗 TDP未定
互联协议未定
机柜与设施未定。不能把“全光 AI 工厂”写成一种可采购机柜
以理查德·费曼命名的更下一代代号。2026 年 10 月它还是方向,不是产品。方案书里最多用一句话说明技术不会停在 Rubin,不参与电量、流量和报价。

设施准备:不进入负荷、不预留具体接头。若客户要求“一次建设管到 2028”,把预留限制在建筑层:层高、荷载、管廊和变电站用地,不要预购未定义的机柜。

此前卡片中的 HBM5、兆瓦级 TDP、A16 等写法降为方向性描述,避免被抄进招标文件。

Layer 02 · Systems

机柜级系统工程与高密封装解剖器

Layer 03 · Interconnect

光电互联与 CPO 硅光网络

Scale-Up 柜内互联 (NVLink Fabric)

打破单卡显存边界,将整柜 72/144/576 颗 GPU 连成一台拥有数十 TB 至 PB 级统一编址内存的巨型计算单机。

NVLink 4 (Hopper) 900 GB/s (18 条链路 / GPU)
NVLink 5 (Blackwell) 1,800 GB/s (100Gb/s PAM4 SerDes,单柜 130 TB/s 互联带宽)
NVLink 6 (Rubin) 3,600 GB/s (200Gb/s PAM4 SerDes,单域跨柜扩展能力倍增)
NVLink Switch Tray 是整个机柜的心脏。在 GB200/GB300 NVL72 中,9 个交换托盘通过后部无源铜缆背板直接连通 18 个计算托盘,实现全互联无阻塞(Non-blocking All-to-All)通信,使得大模型并行通信延迟降低至微秒级。

Scale-Out 跨柜网络 (InfiniBand vs Spectrum-X Ethernet)

连接成千上万个机柜形成万卡至十万卡 AI Factory 集群,承载数据并行(DP)与分布式优化器同步通信。

Quantum-2 (NDR 400G) 64 端口 400Gb/s (Hopper 世代主力)
Quantum-X800 (XDR 800G) 144 端口 800Gb/s (基于 200Gb/s SerDes,Blackwell 世代主力)
Quantum-X1600 (1.6T) 单端口 1.6Tb/s (配合 ConnectX-9 适配 Rubin 世代)
Spectrum-X800 / XGS 端到端 RoCEv2 (无损以太网,支持动态自适应路由与微突发控制)
NVIDIA 在网络层采取双轨战略:InfiniBand 以极低时延与自适应硬件拥塞控制服务最高优先级智算任务;Spectrum-X 则通过专用 ASIC 芯片(Spectrum-4/5)与 SuperNIC 联动,将传统以太网有效吞吐率从 60% 提升至 95% 以上,打破 CSP 厂商自研以太网壁垒。

共封装光学 (CPO / Silicon Photonics)

将光电转换引擎(Optical Engine)直接封装在交换机芯片或计算芯片的同一基板上,彻底终结传统可插拔光模块的功耗与信号衰减瓶颈。

传统可插拔光模块 15-20 W / 800G (大量能耗浪费在电信号重驱动与铜线上)
NVIDIA CPO 方案 能耗降低 3.5 倍 (激光器数量减少 4 倍,抗震与集群可靠性提升 10 倍)
核心交换硬件 Q3450-LD (144 端口 800Gb/s InfiniBand CPO 液冷交换机)
以太网 CPO Spectrum-X Photonics (支持高达 512 个 800G / 1.6T 端口的百万卡级互联扩展)
在十万卡级集群中,传统光模块年故障率导致整个大模型训练中断频发。通过与台积电 COUPE 技术及 SPIL 合作,NVIDIA CPO 架构将激光源外置(ELSFP),光电引擎紧贴 ASIC,不仅极大降低交换机内部发热,更让光信号完整度提升 63 倍。
Layer 04 · Power & Cooling

800V HVDC 与液冷物理极限

物理指标 / 工程维度 传统 54V DC 800V HVDC 技术代差优势
母线工作电压 48V - 54V DC (传统 OCP ORV3) 800V DC (±400V 对称直流架构) 电压提升约 15 倍,物理截面积需求指数级缩减
单柜 200kW 工作电流 约 3,703 A (铜排过粗无法布线) 仅约 250 A (普通工业线缆即可承载) 电流下降至原来的 1/15,线损下降至原来的 1/220
铜排重量与占用空间 单柜铜排重达 120-180 kg,占据机柜后侧宝贵流体通道 铜排重约 25-35 kg,体积缩减 75% 以上 释放出宝贵机柜空间,用于容纳更高密度液冷歧管与光纤
整流与能量转换层级 电网中压 → 变压器 415V AC → UPS 双变换 → PDU → 机柜整流 54V → 主板 12V → VRM 电网中压 → 固态变压器 (SST) 直接高效整流至 800V DC → 机架母排 → 芯片专用 D2D 降压 削减 2-3 级 AC/DC 转换环节,全链路端到端电能转换效率从 88% 跃升至 96%-98%
电网动态阶跃平抑 (Power Smoothing) 依赖外部大容量电池室,毫秒级突发瞬态响应迟钝,容易触发跳闸 原生嵌入高压超级电容或 BBU 直挂 800V 直流母线,毫秒级响应 100kW/ms 负载冲击 有效吸收训练与推理时的‘计算呼吸效应’,防止局部电网电压骤降
Layer 05 · AI Factory

预制集装箱 DSX POD 与模块化交付

SuperPOD
NVIDIA DGX SuperPOD
业界首创的白盒级 AI 超级计算机参考架构。以 8 柜/16 柜/32 柜为基准单元,在出厂前完成计算光网、存储网络、带外运维网络的预配置,保证万卡集群上线周期从数月压缩至数周。
DSX POD Container
NVIDIA DSX POD (模块化集装箱预制 AI 工厂)
  • 工厂预制集装箱封装:将 Vera Rubin NVL 机柜、800V 直流整流柜、液冷二次侧 CDU 与水力循环泵全部集成在标准化耐候集装箱体内部。
  • 即插即用部署:到达现场仅需‘接水(一次侧冷却水)+ 接电(800V 直流或中压交流)+ 接光纤’,最快 72 小时即可并网点亮算力。
  • 全生命周期数字孪生:深度打通 Omniverse DSX Blueprint,从集装箱内部气流场、冷却剂流动流阻、电磁兼容到热点漂移实现毫秒级物理仿真预测。
Simulator

AI Factory 配比与工程模拟器

机柜数
139柜
IT 功耗
19.5MW
全厂电力
22.4MW
水冷流量
34,750L/m
变电站
28.0MVA
History

历年 GTC 大会全景档案馆

GTC 2020: Ampere 架构与 A100 量产 2020-05-14 · 线上 (厨房 Keynote)
重磅硬件:A100 GPU (TSMC 7nm, 40GB HBM2), DGX A100
黄仁勋在自家厨房烤箱中取出全球首块 A100 GPU。宣布 Ampere 架构,首次引入 TF32 格式与结构化稀疏性,发布 DGX A100 单机 5 PFLOPS 性能,完成对 Mellanox 的收购整合。
路标承诺 vs 实际兑现跟踪:A100 成为此后 ChatGPT 引爆全球生成式 AI 浪潮的绝对算力底座,商业交付与生命周期超预期兑现。
GTC 2021: 进军数据中心 CPU,首发 Grace 2021-04-12 · 线上
重磅硬件:Grace CPU 架构, BlueField-3 DPU, DGX SuperPOD 2.0
正式发布 NVIDIA 首款数据中心 CPU 架构——Grace(以计算机先驱格蕾丝·赫珀命名),采用 Arm Neoverse 内核与 NVLink-C2C 互联,向 Intel/AMD 腹地发起总攻;推出 BlueField-3 DPU。
路标承诺 vs 实际兑现跟踪:Grace CPU 研发周期较长,实际大规模出货随 GH200 与 GB200 落地于 2023-2024 年,兑现了与 GPU 统一共享内存的构想。
GTC 2022: Hopper 架构横空出世,Transformer Engine 2022-03-22 · 线上
重磅硬件:H100 GPU (800亿晶体管), DGX H100, Grace CPU Superchip
发布全新 Hopper 架构与 H100 GPU。首次引入 Transformer Engine(FP8 混合精度动态切换),互联跃升至 NVLink 4 (900 GB/s);推出 NVLink Network Switch 实现 256 卡直连。
路标承诺 vs 实际兑现跟踪:H100 供不应求,成为全球科技巨头哄抢的战略资产,直接推动 NVIDIA 营业收入在 FY2024 实现翻倍级暴增。
GTC 2023: AI 的 iPhone 时刻与生成式狂潮 2023-03-21 · 线上
重磅硬件:H100 NVL, L4 / L40 / L40S, DGX Cloud
黄仁勋宣布‘生成式 AI 的 iPhone 时刻已经到来’。推出 DGX Cloud 云端超级算力服务,发布 H100 NVL(双卡 94GB 面向大语言模型推理)、L40S 与 BlueField-3 全面量产。
路标承诺 vs 实际兑现跟踪:成功确立了在大模型预训练与微调领域的绝对统治地位,软件生态 NVIDIA AI Enterprise 订阅与云服务全面铺开。
GTC 2024: Blackwell 震撼发布,计算跃升至机柜时代 2024-03-18 · 圣何塞 SAP Center (万人线下复苏)
重磅硬件:B200 GPU, GB200 NVL72, Quantum-X800 InfiniBand, Spectrum-X800
正式推出 Blackwell 架构,全球瞩目的 GB200 NVL72 单机柜超算首次亮相。黄仁勋宣布‘机柜就是新的计算单元’,展示单柜 5,184 根 NVLink 铜缆直连与 100% 全液冷设计。
路标承诺 vs 实际兑现跟踪:前期因 CoWoS-L 封装与铜缆公差微调,量产节点从 2024Q4 延展至 2025Q1-Q2,但云厂商订单依然全部爆满。
GTC 2025: Blackwell Ultra 推理平台、硅光 CPO 与 800V 蓝图 2025-03-18 · 圣何塞
重磅硬件:B300, GB300 NVL72, Q3450-LD CPO 交换机, 800V HVDC 规范
推出 Blackwell Ultra (B300 / GB300 NVL72),显存暴增至 288GB HBM3e,专为长链条推理模型优化;全球首发 Quantum-X / Spectrum-X Photonics CPO 交换机;正式提出 800V HVDC AI 工厂配电架构。
路标承诺 vs 实际兑现跟踪:B300 成功在 FY2026Q2 大规模出货支撑毛利率重回 75%;CPO 交换机与 800V 供电进入头部云厂商概念验证(POC)阶段。
GTC 2026: Vera Rubin 全球量产,七芯齐发,Kyber 揭秘 2026-03-16 / 2026-10 · 圣何塞 & 台北 & 柏林
重磅硬件:Rubin GPU, Vera CPU, Rubin CPX, ConnectX-9, BlueField-4, Kyber 原型
黄仁勋宣布 Vera Rubin 架构‘七款全新芯片全面量产’。展示搭载 HBM4 的 Rubin NVL72,推出长文本推理怪兽 Rubin CPX 与 BlueField-4 STX;官方揭晓 600kW Rubin Ultra Kyber 竖插机柜原型,发布预制集装箱 DSX POD。
路标承诺 vs 实际兑现跟踪:Vera Rubin 确定 2026H2 逐步交付;而 600kW 的 Kyber NVL576 机柜因特种高频 PCB 背板层数工艺极高,产业链普遍预期向 2027H2-2028 沉淀交付。
Ecosystem

产业链穿透与生态合作伙伴

电源与 800V 高压直流生态

  • Vertiv (维谛技术) VRT
    GB200 NVL72 电力与冷却参考(约 132kW/柜、集群参考约 7MW):XDU CDU、UPS、预制模块。800V 产品组合对准 2026 H2 / 2027 Rubin Ultra,不是 GB300 的当前进线。
    电气与 CDU 主责候选。和施耐德重叠时先定一家主责。
  • Schneider Electric (施耐德电气) SU.PA
    GB200 NVL72 液冷参考架构(约 132kW/柜),以及中压柜、母线槽、PDU 与监控。NVIDIA 2025-05 将其列为 800V 电力系统伙伴。
    一次系统图和列头配电。800V 直流开关柜留到 2027 预留,不进本批报价。
  • Eaton (伊顿) ETN
    保护、母线,以及面向 800V 的固态变压器与直流保护器件
    适合做保护和未来直流的技术接口,不替代计算柜合同。
  • Delta (台达电子) 2308.TW
    柜内高密度整流与 Power Shelf,把设施交流转成约 54V 母排
    功率已在整柜铭牌附近体现,不要再报成一座园区变电站。

热管理与液冷生态

  • Vertiv Liebert / XDU VRT
    CDU、冷水机组与房间级冷却,服务 GB200 液冷参考
    二次侧主责候选。热量不要和 OEM 机柜各算一次。
  • 英维克 Envicool 002837.SZ
    CDU 与冷板。出现在 NVIDIA 公布的 Blackwell 基础设施生态名单中
    国内项目常见的液冷界面。先确认供的是 CDU、末端冷板,还是两者都供。
  • CoolIT / Motivair Private
    冷板与 CDU 专家,常作为机柜物料而不是总包封面
    核对换热量和接头即可。
  • Cooler Master / Auras (双鸿) 3324.TW
    GPU/CPU 冷板与均热结构
  • CPC / Staubli Private
    无滴漏快速接头。型号随 OEM 锁定,不同机柜不要混插
    写进维保清单,不单写成一个液冷品牌。

芯片制造、高级封装与 CPO

  • TSMC (台积电) TSM
    4NP/3nm 制程、CoWoS-L/S 封装、COUPE 硅光集成平台
  • SPIL (矽品) 3711.TW
    光电引擎 (Optical Engine) 封装扩产 15 倍,对接 CPO 交换机
  • IBIDEN / Unimicron (欣兴) 3037.TW
    超大面积高层数 ABF 载板,三年内扩充 2.5 倍产能
  • SK Hynix / Micron 000660.KS / MU
    HBM3e (12-Hi 288GB) 及下一代 HBM4 2048-bit 显存

机柜代工与整机集成 (ODM/OEM)

  • Foxconn (鸿海/富士康) 2317.TW
    GB200/GB300 NVL72 全球超级工厂主力制造,墨西哥大型装配厂
  • Quanta (广达/云达) 2382.TW
    QCT 全液冷 AI 机柜制造与超大规模云厂商定制集成
  • Wistron (纬创) 3231.TW
    GPU 基板与计算托盘主板制造
  • Supermicro (超微) SMCI
    HGX、MGX 服务器与 NVL72 整柜的品牌 OEM,液冷歧管随柜集成
    计算柜合同主体候选。不承包中压和冷却塔。与富士康、广达的差别是品牌交付,不是另一套 GPU。