算力卡的核心性能瓶颈究竟在哪里？答案非常明确——内存，更具体地说，是HBM（高带宽存储器）。数据从存储器传输到处理器的过程始终面临带宽与功耗的双重挑战。传统DRAM因带宽不足而受限，解决方案通常从两个方向入手：提升单I/O数据速率或拓宽位宽。HBM采用TSV（硅通孔）和微凸块技术，直接缩短DRAM裸片与计算核心间的信号路径。信号路径缩短后，I/O速率大幅提升，同时结合高位宽与低I/O电压，实现了高带宽、高存储密度和低功耗的平衡。然而，即便HBM技术已取得显著进展，其当前性能仍难以完全满足算力卡日益增长的需求。

三大存储原厂持续加大研发投入，推动HBM性能实现倍数级跃升。从初代HBM到如今的产品，层数、容量和带宽均快速增长。目前最先进的HBM3e版本理论指标令人瞩目：16层堆叠、64GB容量、1.2TB/s带宽，分别达到初代HBM的2倍、9.6倍和4倍。Trendforce发布的路线图进一步证实了这一趋势：2024年上半年，海力士、三星、美光将推出24GB容量、8层堆叠的HBM3e产品；下半年则计划推出36GB版本，预计采用12层堆叠技术。展望更远，HBM4预计于2026年面世。这种升级节奏之快，令人惊叹且难以同步。