NVIDIA下代AI服务器揭秘:1800W芯片液冷散热,成本解析
11月6日消息,如今AI芯片性能日益强大,对电力的渴望也愈发迫切。微软首席执行官萨提亚·纳德拉坦言,电力供应已跟不上需求步伐,英伟达对此同样感到压力重重。
摩根士丹利最新报告指出,在NVIDIA Blackwell Ultra GB300 NVL72机架式AI服务器系统中,仅液冷散热组件的单价就达到49860美元,约合人民币36万元,比上一代GB200 NVL72系统高出约20%。
这还不是全部。
下一代系统的功耗还将继续攀升,预计Vera Rubin NVL144服务器的液冷系统成本将再次增加17%,达到55170美元,约合人民币40万元。

根据报告披露,GB300 NVL72服务器包含18个计算托盘,每颗GPU芯片功耗为1400W,每个计算托盘功耗至少6600W,为此需要配备6200W的散热能力。单个液冷单元成本约2260美元,18个单元总计40680美元。
此外还有9个NVSwitch交换机托盘,单个液冷成本约1020美元,9个单元总计9180美元。
不出所料,整个液冷散热系统中,最昂贵的组件是为GPU和CPU定制的高性能液冷板,每个成本高达300美元,而用于NVSwitch交换机的定制冷板,每个也需要200美元。
摩根士丹利预计,下一代Vera CPU与Rubin GPU的功耗将进一步提升,其中GPU功耗将高达1800W,NVSwitch 6.0交换机的耗电量也会增加,散热成本自然水涨船高。
具体来看,每个计算托盘的散热成本将上升18%,达到2660美元。其中更大容量的冷板成本上涨至400美元,而托盘总数保持不变,合计47880美元。
好消息是交换机托盘的散热成本将下降约15%,每个单元870美元,合计7830美元。

至于后续的Rubin Ultra架构,计划在每个GPU封装内集成4个计算模块和16个HBM4E内存模块。热设计功耗大幅提升至3600W,因此需要采用全新的液冷板,甚至可能转向浸没式液冷方案。
与此同时,NVIDIA正在筹备新的NVL576机架方案,包含多达144颗GPU,比现有配置增加一倍,散热成本势必会急剧上升。
当然,这些跟咱们普通用户关系不大……

相关攻略
AI研究机构EpochAI发布报告,详细拆解了1GW容量AI数据中心的成本结构。研究发现,在年化总成本约85亿美元中,NVIDIA服务器系统的折旧成本高达50亿美元,占比约60%,成为绝对的成本核心。相比之下,能源等运营开支每年仅约6亿美元,占比有限。报告特别强调,IT设备(主要是GPU)的折旧年
NVIDIA在SIGGRAPH上宣布扩展其微服务库,以加速人形机器人开发。其核心是将生成式AI深度集成至OpenUSD语言体系,推出相关模型与NIM微服务,从而提升数字孪生与机器人工作流效率。公司还开放了机器人技术栈,并联合合作伙伴推动OpenUSD的工业应用,为开发者提供从仿真到部署的端到端平台支持。
RTX 6090 6080 6070显卡规格偷跑:明年才能发 性能再挤一挤 年初CES展会上的消息,想必大家还有印象:备受期待的RTX 50 Super系列被无限期推迟了。现在看来,这个系列大概率是“胎死腹中”了。背后的原因也不难理解:一方面,显存价格涨势凶猛,成本压力不小;另一方面,来自AMD的竞
中国寻求突破NVIDIA CUDA护城河:一种前所未有的新方式 4月8日消息,在寻求突破NVIDIA CUDA生态壁垒的种种尝试中,有一个战略级的变通方案,其思路相当值得深入探讨。 时间拉回到不久前的SEMICON CHINA 2026全球半导体产业战略峰会。会上,中国半导体行业协会副理事长、IC设
高刷未启用?五步排查法帮你搞定 新买了高刷显示器,结果在设置里死活找不到144Hz、165Hz的选项,只能锁定在60Hz?这事儿确实挺让人头疼的。别急,这通常不是硬件坏了,而是系统或驱动没有正确识别显示器的“满血”能力。下面这几个步骤,是解决这类问题的标准操作流程,一步步跟着来,大概率能让你找回丢失
热门专题
热门推荐
MiniCPM-o 4 5是什么 在探索更自然、更智能的人机交互道路上,我们始终在期待一个“全能型选手”的到来。如今,这个角色或许已经登场。面壁智能最新开源的MiniCPM-o 4 5,一个仅拥有90亿参数的全模态大模型,正致力于重新划定“智能对话”的边界。 它彻底颠覆了传统一问一答的“对讲机”式交
Binance币安 欧易OKX ️ Huobi火币️ 想在2025年安全获取欧易OKX的正版APP?其实秘诀就一个:认准官方网站,避开所有仿冒和可疑的下载渠道。要知道,欧易现已统一更名为欧易OKX,其核心业务始终围绕数字资产交易及相关服务展开。 确认官方网站地址 第一步,打开浏览器,手动输入欧易OK
SecondMe Book是什么 在AI社交这一前沿赛道,一款国产平台正带来独特的解决方案。SecondMe Book,本质上是一个能够让你构建个人AI数字分身的创新平台。它允许用户创建一个能够代表真实自我风格与思维的AI数字身份,并让这个“第二自我”在一个专属的AI社交网络中自主运行——包括主动发
在AI大模型技术快速发展的今天,如何在卓越性能与高效推理成本之间取得最佳平衡,已成为行业关注的核心焦点。近期,由阶跃星辰推出的开源模型Step 3 5 Flash引发了广泛热议。该模型专为智能体(AI Agent)应用场景深度优化,旨在顶尖能力与亲民部署成本之间,构建一个极具竞争力的技术支点。 简而
LongCat-Flash-Lite是什么 在探索大语言模型性能与效率的最佳平衡点时,美团近期推出的LongCat-Flash-Lite提供了一个极具创新性的解决方案。作为新一代高效大语言模型,它凭借其突破性的架构设计,在人工智能领域获得了广泛关注。 简而言之,该模型创新性地融合了“混合专家系统(M





