人工智能技术的不断演进，正驱动着存储架构经历一场前所未有的变革与挑战。在当前的大规模AI推理任务中，为了提升响应效率并减少重复计算，系统普遍采用键值对缓存机制，将其作为模型处理上下文信息的“短期记忆”。然而，随着上下文长度快速扩展，依赖高带宽内存来承载这一缓存的方式已逐渐逼近极限，成本与资源压力日益凸显。
为了突破这一瓶颈，一项创新性解决方案应运而生——推理情境记忆存储。该技术通过将原本驻留在高带宽内存中的键值对缓存迁移至更具扩展性的本地固态硬盘，构建出名为G3.5的全新存储层级。这一架构由BlueField-4数据处理单元驱动，有效缓解了高带宽内存的负载压力，并显著优化了整体系统性能。实际应用显示，推理速度最高可提升至原来的五倍，能效也同步实现同等幅度改善，同时大幅降低了延迟。
这一技术路径的落地，也带来了对NAND闪存需求的急剧上升。据测算，在一套典型的Vera Rubin NVL72 AI系统配置中，为支持推理情境记忆存储运行，每个机架将额外配备最多16TB存储空间，单套系统总固态硬盘容量可达约1152TB。结合市场预期，该平台在2026年的出货量预计达3万台，2027年将增长至10万台。由此推算，2026年因此产生的新增NAND需求约为3456万TB，约占全球总需求的2.8%；到2027年，该数值将攀升至1.15亿TB，占比升至9.3%。
值得注意的是，上述预测仅基于现有Vera Rubin平台，尚未包含更高阶的Rubin Ultra系统，也未计入未来Feynman架构可能引发的进一步需求扩张。因此，实际市场对NAND的消耗规模或远超当前估算。
随着推理情境记忆存储技术的推广，NAND供应链将迎来新的增长动力。具备先进制程与大规模产能的存储制造商将在此趋势中显著受益，行业格局有望随之调整。技术创新带来的不仅是性能跃升，更深刻地影响着整个存储生态的发展方向。
