近日，一项来自闪迪的专利揭示了其在存储计算一体化领域的创新思路。该专利提出了一种基于CBA存储晶粒的3D堆叠架构，旨在通过分层设计，让HBM与NAND两种存储介质协同工作，以解决高性能计算中的容量与带宽瓶颈问题。
具体而言，该架构的核心是将GPU或AI翻跟斗等计算芯片直接集成在由NAND和CMOS逻辑构成的存储单元之上，并置于中介层。在这个中介层的周围，则堆叠着高带宽内存芯片。这种设计的核心分工是：HBM负责处理需要高带宽和低延迟的数据访问任务，而NAND层则承担大容量的数据读写与存储职责。
架构细节与设计目标
该专利设计的直接目标是缓解当前HBM容量受限的难题。目前，单堆HBM的容量大约在32GB至64GB之间，这在处理大规模AI模型和海量数据时可能成为瓶颈。闪迪此前曾提出HBF架构，通过TSV技术垂直堆叠NAND，理论上可将容量提升至4TB，相比HBM有8到16倍的提升，但该方案在延迟控制和系统集成复杂度方面面临挑战。
新提出的3D分层架构，正是为了在容量、性能和成本之间找到更优的平衡点。与DRAM相比，NAND闪存具备更高的存储密度和更低的单位成本，但其访问速度相对较慢。通过创新的3D堆叠与分层协同设计，新架构试图让HBM和NAND实现优势互补，从而构建一个既能满足高带宽需求，又能提供海量存储空间的解决方案。