深入探索HBM技术：GPU最强辅助的完整解析
HBM技术作为GPU的最强辅助，正推动高性能计算实现飞跃式发展。下面我们从技术起源、迭代路径、实际应用到市场格局，系统解读这一关键内存技术。
一、什么是HBM？技术起源与传统内存对比
HBM是High Bandwidth Memory（高带宽内存）的简称，是一种高性能的3D堆叠DRAM技术，主要用于满足高性能计算和图形处理单元（GPU）对内存带宽和容量的高需求。HBM技术由AMD与海力士（Hynix）共同开发，并在2013年首次公布。
随着计算需求的不断增长，传统的内存技术（如GDDR5）已经难以满足高性能计算（HPC）和GPU对内存带宽和容量的日益增长的需求。HBM通过将多个DRAM芯片层叠在一起，并使用高密度的硅通孔（TSV）和微凸点（microbumps）技术，实现与处理器或GPU的垂直互连。这种设计大幅提高了内存的带宽和容量，同时减小了内存模块的物理尺寸。与传统的GDDR5内存相比，HBM由于其紧凑的设计和高效的数据传输，通常具有更低的功耗。
二、HBM的发展历程：从第一代到第五代
目前HBM产品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的顺序开发，最新的HBM3E是HBM3的扩展版本。
- 堆叠层数：GPU现在一般常见有2/4/6/8四种数量的堆叠，立体上目前最多堆叠12层。
- 关键产品发布：2月26日，美光科技官方宣布开始批量生产HBM3E高带宽内存，其24GB 8H HBM3E产品将供货给英伟达，并将应用于英伟达H200 Tensor Core GPU。
三、HBM在GPU中的实际应用：以英伟达H200为例
目前主流AI训练芯片都使用HBM，一颗GPU配多颗HBM。以英伟达最新发布的H200为例，该GPU搭载了6个美光HBM3E 24GB高速显存。
关键参数与细节：
- 按理论计算：H200的内存容量应为24×6=144GB，内存带宽应为1.2×6=7.2TB/s。
- 但英伟达官网发布的参数为：显存141GB（并不是整数），显存带宽4.8TB/s。
- 原因：出于量产原因，英伟达保留了一小部分作为冗余，以提高良品率。
四、HBM的迭代方向：容量与带宽的持续提升
HBM不断迭代，迭代方向为增加容量和带宽。目前最高层数为12层。各代关键数据如下：
- 海力士2014年推出全世界第一颗HBM，2018年推出HBM2，后续每隔两年推出新一代HBM。
- 总线位宽：HBM1到HBM3e均保持在1024bit。
- 数据传输速率：从HBM1的1Gb/s提升到HBM3e的9.2Gb/s。
- 带宽：从HBM1的128GB/s提升至HBM3e的1.2TB/s。
- HBM4展望：标准目前未确定，目前普遍预期HBM4最高16层堆叠，2048bit总线位宽。
美光HBM3E目前拥有24GB容量，引脚速度超过9.2Gb/s，可提供超过1.2TB/s的内存带宽，为AI翻跟斗、超级计算机和数据中心提供闪电般的数据访问速度。
五、市场主导者：三大存储巨头的竞争格局
HBM市场主要由三大存储巨头所主导：
- SK海力士：作为HBM技术的主要开发者之一，SK海力士在HBM领域占据领先地位。该公司不仅参与了HBM的早期开发，还持续推动技术的迭代，如HBM2、HBM2E到HBM3等。SK海力士在HBM技术上的创新和量产能力，使其成为英伟达AI芯片HBM的主要供应商，份额最高。
- 三星电子：全球领先的半导体公司之一，在HBM技术方面也具有强大的研发和生产能力。三星电子不仅在HBM的研发上投入巨大，还积极扩大产能以满足市场需求。三星着重满足其他云端服务业者的订单，在客户加单下，预计在HBM3与海力士的市占率差距会大幅缩小。2023~2024年三星和海力士市占率预估相当，合计拥HBM市场约95%的市占率。
- 美光科技：因技术路线判断失误在HBM市场份额比较低，在追赶中。虽然相比SK海力士和三星电子较晚进入HBM市场，但美光通过直接从HBM3E开始着手，并迅速提升技术实力，对现有市场格局构成了挑战。英伟达在H200中使用美光是对其非常大的认可。
六、常见问题与解答
- 问：HBM和GDDR6哪个更适合AI训练？
答：AI训练对内存带宽要求极高，HBM凭借3D堆叠和更宽的位宽（1024bit）提供远超GDDR6的带宽（HBM3E可达1.2TB/s），是当前AI训练芯片的首选。 - 问：为什么HBM3E的功耗比GDDR低？
答：HBM采用更紧凑的设计和更短的互连距离（通过TSV），减少了信号传输损耗和驱动能量，同时工作电压更低，因此整体功耗更优。 - 问：HBM4预计什么时候量产？
答：按照之前的迭代节奏（每两年一代），HBM4有望在2025-2026年面世，目前预期支持16层堆叠和2048bit位宽。
七、小提示
在选购或评估搭载HBM的GPU时，注意以下两点：
- 实际可用容量往往比理论值略低（如H200的141GB vs 144GB），这是厂商为保证良率保留冗余的正常做法。
- 关注HBM版本差异：HBM2E、HBM3、HBM3E的带宽和功耗有显著区别，最新的HBM3E在AI推理和训练中优势更明显。
HBM技术正在从3D堆叠走向更高层数、更宽位宽和更快速率，其作为GPU最强辅助的地位将持续巩固，推动高性能计算和人工智能迈向新高度。