ENZH
和 AI 讨论这篇文章
ChatGPTClaude

机房费不费水,看的是哪个环开着

上一篇聊了数据怎么在几万张 GPU 之间跑通。芯片吃进去的电,算完乘法和加法、发完网络包之后,能量去哪了?除掉顺着光纤跑掉的那一点微弱光信号,吃进去的每一瓦电,最后全变成了热。

这些热要是排不出去,芯片很快就会过热降频。这两年聊起 AI 机房,大家常讲两件事。一件是风冷已经死了,全得改液冷。另一件是 AI 机房特别费水,能把周围社区的水抽干。

把散热管路从芯片一路拆到楼外,你会发现这两件事都不能只看表面。风冷退居二线,是因为空气的物理属性扛不住高密度机柜。一座机房费不费水,光看机柜里有没有上液冷也看不出来,得看散热管路上哪一个环路向大气敞开。机柜里的冷却液哪怕一滴不漏,楼外的冷却塔照样可能每天蒸发掉几百万加仑水。

为什么风冷在物理上输给了水

流体带走热量的本事,全写在一道热力学算式里,Q̇ = ṁ × cp × ΔT。算式左边的 Q̇ 是每秒搬走的热功率(瓦特),字母顶上的圆点代表对时间求导。右边的 ṁ 是每秒流过的流体质量(千克每秒),cp 是比热容,ΔT 是流体进出时的温升。

拿空气和水往这条算式里一代,风冷为什么败下阵来就一清二楚了。先看比热容 cp,也就是让每千克物质升温 1 摄氏度能装下多少热量。空气的比热容大约是 1.005 kJ/(kg·K),水大约是 4.18 kJ/(kg·K)。光按重量算,同样一千克的水,能装下的热量就是空气的约 4.2 倍。

再看密度,差距就更悬殊了。水的密度是每立方米 1,000 千克,空气只有大约 1.2 千克。算下来,水的密度大约是空气的 830 倍。

把比热容和密度乘到一块,咱们算一笔 Kian 课上的账。假设要从一个 100 kW 的机柜里把热搬走,允许流体升温 10 °C。如果拿风去吹,每秒得吹过大约 9.95 千克的空气,折算成体积是每秒约 8,300 升。

要是换成水去吸这 100 kW 的热,每秒只需要流过约 2.39 千克水,体积也就是每秒约 2.4 升。一边是每秒两升多一点的水,一边是每秒八千多升的空气。同样带走 100 kW 的热,需要的空气体积大约是水的 3,500 倍。

同样从 100 kW 的机柜里带走热、允许升温 10 °C,空气每秒要约 8,300 升,水每秒只要约 2.4 升,空气体积大约是水的 3,500 倍同样从 100 kW 的机柜里带走热、允许升温 10 °C,空气每秒要约 8,300 升,水每秒只要约 2.4 升,空气体积大约是水的 3,500 倍

除了总瓦数往上涨,芯片表面的热流密度(heat flux)也在给风冷加压。Kian 举过一个假设的算例。同样是 400 W 的发热,平摊在 4 平方厘米的裸片上,每平方厘米是 100 W。

要是把这 400 W 缩到 1 平方厘米上,热流密度就到了每平方厘米 400 W,单位面积上要拔走的热是原来的 4 倍。

Kian 给这一章起了个很唬人的标题,叫「风冷已死」。放在百千瓦级的 AI 机柜上,这话没说错,放到全行业就没那么绝对。按 Uptime Institute 的说法,贴着机柜的近端风冷(close-coupled)大概能撑到单柜 50 kW 左右,再往上一般就得用液冷。今天全世界大多数 IT 设备还是靠风扇吹。就算上了液冷的 AI 机柜,也还有一成多的热得靠空气带走。

上了冷板,机柜里还有一成多的热要靠风

拆开一台前沿 AI 机柜,贴在 GPU 和 CPU 顶上的第一道散热件叫冷板(cold plate)。按冷板供应商的介绍,英伟达 GB300 的冷板是镀镍铜做的。每块冷板都通过快插接头(quick disconnects)接到管路上,拔托盘时不用把管路里的水放空。

冷板的水路走法也在一代代改。按供应商的说法,GB200 的冷板还是串并联混着接,到了 GB300,每个计算节点加了单独的分水歧管。在 Kian 放的一张德州 Abilene 机房照片里,机柜顶上并排走着两根粗管子,蓝的送冷水,红的收热水。

有了冷板,为什么还得留风扇?冷板一般只盖住最热的那几颗芯片,板子上其他元件的热还是散进空气里。Kian 算过一个 100 kW 机柜的例子。假设 85% 的热(85 kW)被冷板里的液体带走,剩下 15 kW 散进空气。机房再配一台 20 kW 的精密空调(CRAH),留出 5 kW 余量。

真实机柜的比例跟这个算例很接近。慧与(HPE)给 GB200 NVL72 列的参数是整柜 132 kW,其中 115 kW 走液冷,17 kW 靠风。

算下来液冷吃下了约 87% 的热。厂商给 GB200 NVL72 出的参考设计里,还常在机柜后面挂一扇背门热交换器(rear-door heat exchanger)。它像汽车水箱一样装在排风口,热风吹过盘管,热量又交回给液体。

你大概还听说过浸没式液冷(immersion cooling)。它干脆不用冷板,把整台服务器泡进不导电的介电液体(dielectric fluid)里。单相浸没用的多是矿物油这类碳氢化合物,液体只升温不沸腾。两相浸没让低沸点液体在芯片表面烧开,蒸汽升到顶上碰到冷凝管再变回液体,热就这么带走了。

两相浸没前些年有不少人看好,最近却碰上了货源问题。这类系统多用 3M Novec 这类含氟液体,属于全氟和多氟烷基物质(PFAS)。3M 在 2022 年底宣布退出 PFAS,2025 年底停了产,两相冷却液的供应跟着受了很大影响。Kian 的看法是,浸没式在今天的大型 AI 机房里分量不大。

决定芯片死活的往往是接触面和水速

把冷板扣在 GPU 上,往里灌凉水就完事了吗?没这么简单。热量从芯片里出来,要依次穿过硅片、导热界面材料(TIM,比如硅脂或相变片)、芯片顶盖和冷板底座,最后才进到水里。

这一整条路径对热流的阻碍,合起来叫热阻(Rθ,单位是 °C/W)。温差等于热功率乘热阻,写成算式是 ΔT = P × Rθ。比如总热阻是 0.2 °C/W,一颗 100 W 的芯片就得比冷却水高 20 °C,才能把热推出去。

热阻属于从芯片到水的整条路径,还跟水流状况有关,单看芯片或铜板说明不了问题。Kian 在课上拿两颗同样 400 W 的芯片算过对比账。假设喂给它们的冷却水都是 35 °C,降频红线都是 80 °C。

第一颗的冷板压得紧、硅脂涂得匀,整条路径的热阻是 0.08 °C/W。400 W 乘下来温升 32 °C,加上 35 °C 的水温,芯片停在 67 °C,离红线还远。

第二颗比如硅脂里混了气泡,或者螺丝没拧平,热阻涨到 0.12 °C/W。温升变成 48 °C,芯片冲到 83 °C,比红线高了 3 °C。进水温度一模一样,这颗却已经过热降频了。所以接触面贴没贴严,往往比水再凉几度更要紧。

热进了水,接下来看流量。回到 Q̇ = ṁ × cp × ΔT,cp 基本只能靠换冷却液来改。机房常往水里掺二醇(glycol)防冻,CoolIT 拿来做对比的就是含 25% 丙二醇的 PG25。这种混合液每千克装的热比纯水少一点,同样功率要的流量就得稍大一些。

剩下的就是流量 ṁ 和温升 ΔT 的跷跷板。按课上的算例,100 kW 的热喂给每秒 2.5 千克、35 °C 的纯水,水温升 9.57 °C,出水 44.57 °C。

把水泵开大,流量翻倍到每秒 5 千克,温升就砍半,约 4.8 °C。那干嘛不把水泵开到最大,让水温几乎不动?因为水在管子里湍流流动时,沿途的压降(pressure drop)大致跟着流量的平方涨。流量翻一倍,水泵要顶的阻力差不多变成 4 倍,耗电跟着猛涨,我猜接头漏水的风险也会跟着上去。

这里还有一个运维里很容易把人骗到的仪表坑。看水路健不健康,不能只盯着水泵出口的压力表,得看流量计。管路里的滤网(strainer)要是被杂质堵了,系统的阻力曲线会变陡。

拿 Kian 的例子说,平时每秒流 2 升水,压力表读 120 kPa。滤网堵了以后,压力表反而涨到 140 kPa,实际流过去的水却掉到每秒约 1.4 升。光看压力表会以为水泵干得正起劲,其实芯片已经缺水了。

Kian 还讲过一个更隐蔽的读数骗人的例子。总控室的仪表盘上,送往各排机柜的供水温度是正常的 30 °C,B 排最热的一颗 GPU 却已经到了 85 °C,超了 80 °C 的红线。

供水温度没变,芯片怎么烧高了?问题出在 B 排的流量,从每秒 100 千克掉到了 50 千克。这一排有 2.09 MW 的发热,正常流量下水温只升 5 °C,回水 35 °C。

流量砍半后,同样的热把回水顶到了 40 °C。流量刚掉下去那一下,水带走的热骤减,芯片温度开始往上蹿。等芯片和水的温差大到能把热重新推出去,系统才停在一个新的平衡点。这个平衡点很稳定,只是对芯片来说太烫了。

反过来,往一排机柜里加新任务,也得先算回水温度和流量上限。课上的 Row C 算例里,C 排原本跑着 2.09 MW,每秒通 100 千克 30 °C 的水,回水 35 °C。

设备允许的回水上限是 40 °C。这时候想再塞一个 2.5 MW 的新任务,总热负荷变成 4.59 MW。不调水泵的话,每秒 100 千克水在上限内最多扛 4.18 MW。

硬塞进去,回水会冲到约 41 °C。想不超温,总流量得提到每秒约 110 千克,也就是多加约 10 千克。

水路和冷机都有热惯性,派任务还得守一条先开冷气、后跑任务的规矩。Kian 算过一笔时间差的账。假设大厅正跑着 4 MW 的发热,冷机开着 5 MW 的制冷量,这时候派下来一个 2 MW 的新任务,总发热要涨到 6 MW。

多出来的冷机从启动到满载要 3 分钟。直接把任务拉起来,这 3 分钟里就有 1 MW 的热没人管。稳妥的做法是先把制冷量拉到 7 MW,等水温压住了再放任务进来。

把机柜内圈的冷却液(TCS)和大楼外圈的设施水(FWS)隔开的,是冷却液分配单元(CDU)。两圈液体在换热器里隔着金属片传热,从不掺在一起。送进机柜的冷却液温度减去送进 CDU 的设施水温度,叫 CDU 的逼近温差(approach),厂家标称一般在 4 到 5 °C。

拿液冷厂商 CoolIT 的 CHx2000 来说,按官网参数,在 5 °C 逼近温差下,一台能搬走 2 MW 的热,在 35 psi 压头下每分钟泵 2,125 升冷却液。

这家公司 2001 年在加拿大卡尔加里起家,最早做的是游戏电脑水冷。后来 AI 机柜把液冷做成了大生意。2023 年 KKR 把它买下,据报道花了约 $2.7 亿。2026 年,艺康集团(Ecolab)又花约 $47.5 亿把它收了。

CDU 自己也得做冗余。假设一个分区有 1,000 kW 的发热,买 2 台 600 kW 的 CDU 并联,总共 1,200 kW,这只能算 N。因为坏一台,剩下的 600 kW 兜不住 1,000 kW 的热。

要做到坏一台也不受影响的 N+1,得摆 3 台,总共 1.8 MW。要做两路互相独立的 2N,就得配 4 台,共 2,400 kW。要是只配了 2 台又坏了一台,控制系统会切进降级模式(degraded mode),主动砍掉一部分 IT 负载,把热压回 600 kW 以内。

热量怎么排进大气,机房到底费不费水

设施水从 CDU 接过热,出了楼还得把热排进大气。室外散热大体三条路,干冷、湿冷和带压缩机的冷水机组。机房费不费水、夏天怕不怕热浪,都在这一步定下来。

第一条路是干冷器(dry cooler)。原理跟汽车水箱一样,热水在封闭的翅片盘管里流,大风扇在外面吹。干冷器里的水完全封闭,平时一滴不蒸发。但热力学第二定律卡着它,风吹盘管最多只能让水温往室外的干球温度(dry-bulb temperature)靠。再算上盘管自己的逼近温差,出来的水总比室外气温高几度。

跟着 Kian 算一笔大热天的账。假设芯片要求进机柜的冷却液不超过 35 °C,CDU 的逼近温差按 5 °C 算,设施水就得以 30 °C 进 CDU。到了室外 35 °C 的大夏天,纯干冷器连 35 °C 的水都送不出来,30 °C 就更别想了。

想在 35 °C 的天不开压缩机就把水压到 35 °C 以下,就得走第二条路,湿式冷却塔(wet cooling tower)。冷却塔把水喷淋在填料(fill)上,让一小部分水蒸发掉。水蒸发会吸走大量的热,所以冷却塔能把水冷到多低,要看湿球温度(wet-bulb temperature)。

只有空气相对湿度到 100%、水再也蒸发不动时,湿球温度才等于干球温度。空气只要没那么潮,湿球温度就比干球温度低。

同样是 35 °C 的大热天,干燥地区(相对湿度约 32%)的湿球温度可能只有 22 °C,闷热的桑拿天(相对湿度约 59%)就会到 28 °C。

Kian 在课上对比过这两种天气。冷却塔的水直接碰室外空气,多半不干净,中间通常还要再加一道换热器,整条水路就成了机柜回路、设施回路、冷却塔回路三个圈。每过一道换热器,都要再让出一截逼近温差。湿球 22 °C 的干热天,送进机柜的水还能压在 35 °C 以内。湿球 28 °C 的闷热天,几道温差叠上去,水温就过线了。

冷却塔也是真费水。水不停蒸发,剩下的水里矿物质越来越浓,结了水垢会堵换热器。所以冷却塔得一边补新水(makeup water),一边把浓缩的水排掉(blowdown)。按美国能源部(DOE)的指南,靠水处理让水多浓缩几轮再排,浓缩倍数从 3 提到 6,补水能省约 20%,排污水能少一半。

有没有办法平时不费水,只在最热那几天借一点蒸发的力?这就是绝热预冷(adiabatic assist)。底子还是一台干冷器,盘管里的水不碰空气。到了最热的那几天,室外热风先穿过一层打湿的湿帘(wetted pad)或者一道水雾。水在空气里蒸发,把空气温度压到湿球温度附近,再去吹盘管。一年里只有高温天才耗水。

要是又热又潮、湿球温度也下不来,或者机房干脆不想蒸发水,就只剩第三条路,上带压缩机的冷水机组(chiller)。冷水机组像一台超大号空调,靠制冷剂和压缩机做功,把热从低温处泵到高温处。外面再热,它也能造出冷水。

代价是压缩机要吃电,吃进去的电也变成热,得一起排出去。按课上的算例,机柜出 10 MW 的热,压缩机再吃 2 MW 电,室外盘管就得排 12 MW。冬天天冷时,机房会关掉压缩机,切进自然冷却模式(economizer mode),只靠风扇和水泵。

衡量冷水机组省不省电的指标叫性能系数(COP),就是搬走的热除以吃掉的电。压缩机只是在搬热,用不着自己造热,所以搬走的热比吃进的电多好几倍,COP 一般大于 1。典型满载工况下,风冷式冷水机组的 COP 大约 2.5 到 3.7,水冷式大约 4 到 6.5。室内外温差越大,压缩机越费劲,COP 就越低。

所以在供电卡死的机房,大热天会直接逼着砍算力。Kian 算过一笔示意账,里面的 COP 取了偏乐观的整数,方便口算。假设机房总供电上限是 10 MW,平时跑 8 MW 的 IT 负载,另有 0.4 MW 的水泵、照明等杂项。

凉快天里,假设制冷的等效 COP 有 8,搬走 8 MW 的热只要 1 MW 制冷电。加上 8 MW 的 IT 和 0.4 MW 杂项,全站 9.4 MW,在 10 MW 以内。

到了大夏天下午,冷机 COP 掉到 4,同样搬 8 MW 的热就得吃 2 MW 电。全站冲到 10.4 MW,超了 400 kW。

为了不跳闸,机房只能给 GPU 降频或者砍任务,把 IT 负载压到 7.68 MW。配上 1.92 MW 制冷电和 0.4 MW 杂项,刚好 10 MW。

机房吐出这么多废热,为什么不卖给隔壁供暖?Kian 讲到了这里的供需错配。假设一座机房全天吐 4 MW 的热,旁边有家医院想买,人家可能只在半夜到早上 6 点要 2 MW。其余时间和多出来的热,机房还是得配齐室外散热设备排掉。

北欧的区域供暖做得算好的,废热也用不完。芬兰能源公司 Fortum 在 2026 年 5 月开始接收微软在 Espoo 和 Kirkkonummi 两处机房的废热,预计最终能满足当地约四成的区域供暖需求,覆盖约 25 万用户。可一年下来只有约 75% 的废热用得上,因为夏天没人要暖气。

把三条路的账摊开,再看「数据中心抢水」这场争论,就清楚多了。宣传里常强调自家用的是闭环液冷(closed-loop),冷却液常年不用换。可机柜里那一圈本来就是封闭循环。机房费不费水,要看楼外散热那一圈有没有开口蒸发。

热量顺着一串环路往外走:封闭的机柜回路在 CDU 把热交给设施回路,设施回路最后要么接干冷器,封闭不蒸发,要么接湿式冷却塔,向大气开口、天天蒸发水热量顺着一串环路往外走:封闭的机柜回路在 CDU 把热交给设施回路,设施回路最后要么接干冷器,封闭不蒸发,要么接湿式冷却塔,向大气开口、天天蒸发水

孟菲斯的 Colossus 是个现成的对照。2026 年 3 月,xAI 的一位工程师对《Governing》说,Colossus 有一套永远不用换水的闭环,外面的开环每天却要用大约 300 万加仑水。

德州 Abilene 的 Stargate 园区走了另一条路。按开发商 Crusoe 的说法,园区的设施水是闭环,室外用风冷式冷水机组把热排进空气,散热环节不耗水。Crusoe 说园区 8 栋楼,每栋建成时要从市政管网一次性灌约 100 万加仑水,合计 800 万加仑。之后每栋每年大约补 5 万加仑维护用水。

微软从 2024 年 8 月起,所有新数据中心设计都改用建设时一次性注水的芯片级闭环冷却,不靠蒸发散热。微软说这样每座机房每年能省下超过 1.25 亿升水,2026 年在凤凰城和威斯康星州 Mount Pleasant 试点。

Crusoe 在博客里说,这种系统维护成本更高,这么大规模很少有人用,他们是为了负责任地用水才主动扛下这笔开销。Kian 的解读就辛辣多了,他觉得这里面有一半是漂绿(greenwashing)。

在 Kian 看来,在干旱的西德州要是用水冷冷机配蒸发塔,马上会招来当地社区反弹。而且长远看,只交电费可能比买水更划算。反过来,省下的水是拿电换的。典型的风冷冷水机房大约每冷吨耗 1.5 kW 电,水冷的大约 0.85 kW。

至于「AI 数据中心快把美国的水喝光了」,Kian 觉得这话至少放在零蒸发的风冷机房上站不住脚。放到全美的大盘子里看,美国实际消耗掉的淡水(consumptive use)里,大约 80% 用在农业。按取水量(withdrawals)算,灌溉只占约 37%。

还有一笔账在电厂那头。劳伦斯伯克利国家实验室(LBNL)2024 年的报告估算,2023 年全美数据中心在机房里直接用掉约 170 亿加仑水,发电给它们用又间接耗掉约 2,110 亿加仑。所以算一座机房的用水,它背后那份电在电厂里耗的水也得算进去。

发电机还在转,机房却因为热浪和断水停摆了

在机房的可靠性账本上,散热跟供电一样要紧。备用发电机和 UPS 把电保得再好,散热一断,服务器撑不了多久也得关机。

Kian 讲过多伦多的一场水灾。多伦多在安大略湖北岸,市中心有一套深湖水冷却系统(Enwave 运营的 Deep Lake Water Cooling)。管子伸到离岸约 5 公里、水深 83 米的湖底,抽上来的水常年 4 °C 左右,给市中心 80 多栋大楼降温,其中也有数据中心。湖水先进岛上的过滤厂,再到约翰街泵站过一道换热器,把冷量交给 Enwave 的管网,然后才进城市自来水系统,两边的水不混。

2013 年 7 月 8 日傍晚,一场暴雨让多伦多约 30 万户停了电。市中心的 151 Front Street West 是多伦多主要的电信枢纽,楼里住着一大批运营商和数据中心租户,当场断了市电。大楼切到备用发电机,机柜的电保住了。

麻烦出在冷水上。备用电保住了机柜,却保不住大楼依赖的外部冷水。冷水供应商自己的供电也出了问题,大楼部分区域没了冷却,机房温度一路往上走,后来 Enwave 调来一台应急冷机才稳住。按 Kian 引用的一份现场记录,有一间机房温度超过了 43 °C,运维人员关掉非必要设备,把业务往外迁。

外面的冷水就算没断,机房自己的冗余冷却在极端高温天也可能一起出问题。2022 年 7 月 19 日伦敦热浪,Google Cloud 伦敦的 europe-west2-a 可用区就栽在散热上。按 Google 事后的故障报告,室外温度极高,这个可用区的多套冗余冷却系统同时出了故障。

为了防止硬件过热损坏,Google 主动关掉了可用区里的一部分机器。冷却修好用了 4 小时 8 分钟,服务恢复又花了 14 小时 15 分钟,客户受影响前后共 18 小时 23 分钟。

热也会悄悄影响算力。Meta 在 Llama 3 的论文里提过,就算机房没出故障,下午天热时 GPU 的动态调频调压(DVFS)行为会变,整个集群的训练吞吐会比夜里低 1% 到 2%。落到你自己用 AI 上,我猜在供电已经顶满的园区,大夏天下午冷机多吃一截电,调度系统多半会先压后台批处理这类不急的任务。你调 API 时大概率感觉不到,但那几个小时里这座园区能跑的算力很可能会少一截。

到这里,电、数据、热三根管子就拆完了。最后一篇把这些千瓦和升每秒折算成美元,拆开一张 GPU 每小时的租金账单。最后再回到德州 Abilene,看燃气轮机、自建的配电设备工厂和风冷冷机是怎么拼进同一座园区的。


本系列整理自 freeCodeCamp 上 Kian(@neuralkian)的课程「Inside an AI Factory – Power, Cooling, and GPUs Explained」(课程原名 From Watts to Tokens,讲义在 kiankyars.github.io/gigawatt)。框架和大部分例子是 Kian 的,我按主题重新编排、核对了数字,理解有偏差的地方锅在我。文中提到的公司只是例子,不构成任何投资建议。

和 AI 讨论这篇文章
ChatGPTClaude

订阅更新

新文章发布时发到你的邮箱,不发别的。


© Xingfan Xia 2024 - 2026 · CC BY-NC 4.0