在NVIDIA GTC大会上,NVIDIA正式推出了第四代DGX系统——DGX H100。这不仅是首个基于H100 GPU的AI平台,更是一次算力密度的颠覆性跃升。借助全新的NVLink Switch系统,单台DGX SuperPOD即可提供1 Exaflops的AI计算性能;而计划中名为“Eos”的超级计算机,若如期运行,有望成为全球最快的AI系统。对于急切部署AI的企业,NVIDIA还扩展了DGX Foundry服务,让客户在自有设备到货前就能率先使用顶尖算力。
先来看核心硬件:每台DGX H100系统搭载八块H100 GPU,通过第四代NVLink互联后,在FP8精度下可达到32 Petaflops的AI性能,较上一代提升6倍。这一组数字意味着什么?简单来说,它足以支撑大型语言模型、推荐系统、医疗健康研究、气候科学这类“算力怪兽”级别的负载。

DGX H100也是新一代DGX POD和DGX SuperPOD的核心构建单元。此次SuperPOD架构迎来重大升级:通过全新的NVLink Switch系统,最多可连接32个节点——即256块H100 GPU。整个集群的FP8 AI性能达到1 Exaflops,同样比上一代提升6倍。这意味着,对于参数规模达数万亿的大语言模型,企业终于有了趁手的工具。
NVIDIA创始人兼CEO黄仁勋表示:“AI已经从根本上改变了软件的功能和产出方式。利用AI来革新自身所处行业的公司也意识到了自身AI基础设施的重要性。NVIDIA全新DGX H100系统将赋能企业AI工厂,助力其从数据中提炼出我们最具价值的资源,即‘智能’。”这段话已经清晰说明了DGX H100的定位:它不是一台简单的服务器,而是AI工厂的核心引擎。
宣布推出全球运行速度最快的AI超级计算机——NVIDIA Eos
NVIDIA自身将率先采用这套架构,搭建一台名为“Eos”的DGX SuperPOD。这台超级计算机计划于今年晚些时候投入运行,配置极为强大:576台DGX H100系统,总共4608块H100 GPU。如果一切顺利,它将直接成为全球最快的AI系统。
具体性能上,Eos预计可提供18.4 Exaflops的AI计算性能——比目前最快的Fugaku(富岳)超级计算机快4倍。即便在传统科学计算领域,Eos也能达到275 Petaflops的FP64性能。对于NVIDIA及其OEM、云合作伙伴而言,Eos不仅是一台超级计算机,更是一份先进AI基础设施的蓝图。
借助DGX H100系统、DGX POD和DGX SuperPOD,轻松扩展企业级AI
从单个项目试水到大规模部署,DGX H100系统都能平滑扩展。硬件层面,每台系统除八块H100 GPU(总共6400亿个晶体管)外,还集成了两个BlueField-3 DPU,专门用于卸载、加速和隔离网络、存储与安全服务。八张ConnectX-7 Quantum-2 InfiniBand网卡提供400 GB/s的吞吐量,较上一代翻倍。而第四代NVLink与NVSwitch结合,在每个DGX H100系统内部实现900 GB/s的GPU间连接速度,是上一代的1.5倍。
系统本身采用双x86 CPU,配合NVIDIA网络和认证的存储设备,DGX POD可灵活适用于各种规模的AI计算。升级到SuperPOD后,NVLink Switch和Quantum-2 InfiniBand将所有节点串联起来,带宽速度达到70 TB/s,比上一代整整高出11倍。多个SuperPOD单元还可以组合使用,为汽车、医疗健康、制造、通信、零售等行业提供开发大型模型所需的算力。
对于迫不及待的客户,NVIDIA DGX Foundry托管开发服务正在全球扩展。在北美、欧洲和亚洲新增了服务地点,客户可以在自家系统安装期间,远程访问DGX SuperPOD或其部分节点,相当于提前“插队”使用顶尖算力。Foundry中还预装了NVIDIA Base Command软件,用于管理端到端的AI开发生命周期。此外,通过Equinix IBX数据中心托管的LaunchPad实验室,符合资格的企业可以免费体验这套系统。
企业级AI软件MLOps助力客户提高AI采用率
硬件到位,软件生态也得跟上。NVIDIA将DGX-Ready软件合作伙伴(如Domino Data Lab、Run:ai、Weights & Biases等)的MLOps解决方案纳入“NVIDIA AI加速”计划。这些经过验证的应用程序可提供企业级工作流、集群管理、调度与编排能力。
同时,DGX系统现在包含NVIDIA AI Enterprise软件套件,并且新增了对裸金属基础设施的支持。客户可以直接使用其中的预训练模型、工具包和框架——例如RAPIDS、TAO工具套件、Triton推理服务器等,省去大量从头搭建的工作。
DGX-Ready托管服务计划能够简化AI部署
随着企业AI采用率的提升,许多客户希望与服务提供商合作来管理基础设施。NVIDIA推出了新的DGX-Ready托管服务计划。德勤是第一个合作的全球提供商,他们已认证了一批区域供应商(CGit、ePlus、Insight Enterprises、PTC System),为欧洲、北美和亚洲的客户提供支持。
德勤咨询AI与数据运营服务负责人Jim Rowan对此评价:“只有企业能够将技术集成到运营中时,AI才可能助推业务实现突破。借助新的DGX-Ready托管服务计划,客户可以轻松采用先进的AI技术以及由德勤全球专家管理的NVIDIA DGX系统和软件。”这段话点出了关键:技术再强,无法落地都是徒劳。
DGX-Ready生命周期管理计划助力实现轻松升级
对于老客户,NVIDIA推出了DGX-Ready生命周期管理计划,允许通过渠道合作伙伴将上一代DGX系统升级为最新平台。翻新后的设备可以卖给新客户,从而扩大整个AI基础设施的可用性。该计划既提升了老客户的资产利用率,也降低了新客户的入门门槛。
供货信息
从今年第三季度起,NVIDIA的全球合作伙伴将开始供应DGX H100系统、DGX POD和DGX SuperPOD。如果客户不想自行管理机房,还可以选择在Cyxtera、Digital Realty、Equinix IBX数据中心等DGX-Ready数据中心合作伙伴的托管设施中部署。
