英伟达近日正式发布面向 AI 工作负载的新一代旗舰芯片——HGX H200。若说 H100 已经处于 AI 芯片性能高点，那么 H200 则是在此基础上的进一步升级。此次最重要的提升集中在内存方面：相比上一代产品，H200实现了1.4倍的内存带宽提升和1.8倍的内存容量增加。这也意味着，在处理高资源消耗的生成式 AI、大语言模型训练与推理等任务时，这款 GPU 将拥有更强的表现。

不过，市场当前最关注的问题可能仍然是：这款芯片到底何时能够大规模买到？H100 过去一整年都处于供不应求的状态，而这次英伟达并未给出明确的产能承诺。官方仅表示，首批H200将于2024年第二季度出货，并正与全球系统制造商以及云服务提供商合作，以保障后续供应。至于具体出货规模有多大，英伟达发言人Kristin Uchiyama并未作出回应。

除了内存部分之外，H200 与 H100 在其他架构设计上基本保持一致。但在 AI 计算领域，这种看似有限的内存升级，往往会带来非常明显的实际性能提升。H200是首款搭载新型HBM3e内存规格的GPU，带宽达到每秒4.8TB（而H100为3.35TB），总容量从80GB跃升至141GB。简单来说，更大的显存可以容纳更完整的模型参数，从而让大模型训练、生成式 AI 推理和高性能计算任务获得更高效率。

英伟达高性能计算产品副总裁Ian Buck在视频演示中表示，更大、更快的内存整合，目标是加速生成式 AI 模型和高性能计算应用的执行效率，同时进一步提升 GPU 资源利用率。换句话说，对于希望最大化算力投入产出的企业来说，H200 的设计重点正是把每一份硬件性能尽可能发挥出来。

一个非常关键的设计亮点是：H200与H100系统完全兼容。这意味着，云服务商和数据中心在进行硬件升级时，无需对现有基础设施进行大规模改造，直接替换为 H200 即可投入使用。亚马逊、谷歌、微软和甲骨文的云计算部门，也都已计划在明年率先提供这款新一代 AI 芯片。

在价格方面，虽然英伟达没有公开明确报价，但参考 H100 每颗约25000到40000美元的售价区间，H200 大概率只会更贵。更重要的是，部署一个顶级 AI 系统往往需要数千颗 GPU 芯片，因此整体成本十分惊人。Uchiyama强调，最终定价将由合作伙伴决定，但市场对这类 AI 硬件的需求已经火热到极高程度，甚至出现公司将 H100 作为贷款质押物的情况——这并非夸张，在硅谷确有先例。

另一个值得关注的信号是：H200的推出并不会影响H100的产能。Uchiyama在邮件中表示，今年整体供应量正在持续增加，同时英伟达也在推进长期采购承诺。更关键的是，据英国《金融时报》今年8月报道，2024年英伟达计划将H100的产量提升三倍——从2023年约50万颗增至200万颗。不过需要看到的是，生成式 AI 与大模型市场的需求至今仍未降温，在 H200 加入竞争之后，这样的供应规模或许依然会显得紧张。

对于 GPU 买家和云计算客户而言，2024年很可能会成为一个“选择更多”的年份：要么继续抢购 H100，要么等待 HGX H200 上市。而从整个 AI 芯片市场来看，真正占据主动权的，或许依然是那个持续提供核心算力基础设施的厂商。