英特尔于2022年5月10日的On产业创新峰会上正式推出Gaudi2深度学习训练芯片，旨在挑战英伟达在AI芯片市场的垄断地位。本文将从芯片规格、性能表现、网络架构、市场背景及生态落地等维度，为你系统解读这款面向数据中心的新一代AI翻跟斗。

一、Gaudi2 核心规格升级

Gaudi2 是以色列人工智能芯片初创公司 Habana Labs 的第二代处理器，英特尔于2019年底以20亿美元收购该公司。相比上一代Gaudi，Gaudi2在制程、核心数量、显存和缓存方面有显著提升：

• 制程工艺：从16纳米跃升至台积电7纳米，元器件数量大幅增加。
• 张量核心：从10个增加到24个。
• 显存：从32GB HBM2升级到96GB HBM2E。
• 高速缓存SRAM：从24MB翻倍至48MB。
• 功耗：从350W提升至600W，但英特尔表示不需要使用液冷散热。

图：Gaudi2 英特尔提供图片

小提示：Gaudi2采用了Habana Labs高能效架构，专门针对数据中心的计算机视觉和自然语言应用进行了优化，并非通用GPU。

二、性能表现：是英伟达A100的两倍

在本次峰会上，Habana展示了Gaudi2在典型AI工作负载下的训练性能：

• 计算机视觉：运行ResNet-50（v1.1）模型时，性能几乎是同制程节点的英伟达A100 80GB处理器的两倍。
• 自然语言处理：在BERT Phase-1和Phase-2的训练中，也有同样的优势。

Gaudi2之所以能达到如此高的性能，得益于其内置的24个100GbE RoCE以太网端口，大幅提升了训练时的数据带宽。

三、网络架构：纵向扩展与横向扩展

Gaudi2的以太网端口分工明确，实现了高效的扩展方案：

• 纵向扩展（内部互联）：每个处理器中的21个端口专用于8卡HLS-Gaudi2服务器内部互联，实现全联接、非阻塞配置。
• 横向扩展（跨服务器）：每个处理器剩余的3个端口用于服务器间通信，在8卡Gaudi服务器间提供2.4TB的网络带宽。
• 简化设计：Habana提供符合OCP规范的通用基板（UBB），方便客户简化系统设计。

图：英特尔提供

小提示：RoCE（RDMA over Converged Ethernet）是一种允许通过以太网进行远程直接内存访问的技术，能极大降低数据传输延迟。

四、市场背景与竞争格局

根据IDC数据，2021年全球企业在人工智能软件、硬件和服务的总投资将超850亿美元，预计2025年增至2,045亿美元，五年复合增长率（CAGR）达24.5%。另据Tractica数据，2019年全球人工智能芯片市场规模约110亿美元，预计2025年将达到726亿美元，年复合增长率高达46.14%。

目前，GPU在AI芯片市场占据绝对优势，英伟达处于垄断地位。数据中心对GPU的需求持续增长，因为GPU比CPU更适合处理人工智能和机器学习所需的并行计算。英特尔发布Gaudi2，可以看作是对英伟达A100芯片的直接挑战。

五、生态落地与未来规划

英特尔透露，位于以色列的Habana Gaudi2数据中心已部署一千台HLS-Gaudi2服务器，不仅用于Gaudi2软件优化等研发工作，也为即将推出的Gaudi3处理器积累经验。

常见问题（FAQ）

问：Gaudi2是否兼容现有的深度学习框架？
答：Habana Labs提供完整的软件栈，支持TensorFlow、PyTorch等主流框架，并且通过Synapse AI软件工具进行优化，用户无需大幅修改现有代码即可迁移。

问：Gaudi2的600W功耗是否意味着必须使用液冷？
答：英特尔明确表示Gaudi2不需要液冷散热，传统风冷即可满足散热需求。但具体散热方案需根据实际服务器密度和机柜布局评估。

问：Gaudi2与英伟达A100相比，在推理任务上表现如何？
答：本文主要讨论训练性能。Gaudi2专为训练设计，但Habana也提供推理专用芯片（如Goya）。针对推理任务，建议查阅Habana官方基准测试数据。

问：普通开发者能否直接购买Gaudi2芯片？
答：Gaudi2主要面向数据中心客户，通过HLS-Gaudi2服务器或云服务商提供（如AWS、谷歌云等）。个人开发者可通过云服务按需使用。

总体而言，英特尔Gaudi2凭借7nm工艺、大幅升级的核心数与带宽，在典型AI训练任务中展现出比英伟达A100更强的性能，同时保持了风冷可行性，为数据中心AI计算提供了新的选择。未来随着Gaudi3的推进和生态的完善，AI芯片市场的竞争将更加激烈。