如果说人工智能与机器学习的计算能力是引擎,那么内存就是燃料——没有充足的燃料,再强大的引擎也无法高效运转。随着模型规模不断膨胀、任务复杂度持续攀升,内存的重要性早已超越“够用就行”的范畴,而是直接成为整个系统性能的瓶颈。

具体到AI应用场景,内存面临的新需求可谓多点开花,每一项都极具挑战性:
容量要够大——如今模型动辄数十TB,且仍在快速增长。仅靠传统DDR主存,容量压力已经显而易见。
带宽要够猛——数据搬运量惊人,所有DRAM类型都在全力提升数据速率,只为挤出更多带宽资源。
延迟要够低——速度的另一面是等待时间。处理器核心最怕“闲置等数据”,低延迟直接关系到生产效率。
功耗要够省——我们已在物理极限边缘探索,功耗已成为AI系统中的一个硬性约束。为了追求更快的运行速度,IO电压不断降低,但电压裕量减小后,出错概率反而上升——这又将可靠性问题推到了前台。
可靠性要够高——速度越快、电压越低、工艺越先进,错误率自然水涨船高。因此,片上ECC和高级信号补偿技术开始大规模普及,几乎成为标配。
说完传统需求,再来看看新内存技术带来的机遇与挑战。AI市场规模足够大、资金实力足够雄厚,完全有能力催生专门为其量身定制的内存方案。历史已经证明了这条路径:GDDR源于图形处理,LPDDR来自移动设备,HBM则为高带宽应用而生——它们都是因特定使用场景而诞生。如今,轮到AI来提出自己的定制化诉求了。
其中最值得关注的接口是CXL。它不仅能大幅扩展内存容量、提升带宽,还能将内存类型对处理器“隐藏”起来。换句话说,CXL相当于一个万能转换层,使新内存技术可以插在本地内存之后,形成新的层级——这为创新打开了大门。
然而,任何新内存技术要想真正落地,都必须翻越几道高墙:
DRAM、片上SRAM和闪存短期内不可能被取代,几十年的研发投入和量产经验摆在那里。新内存只能与它们良好配合,才有机会被实际应用。这不是选择题,而是必答题。
AI的部署规模与新内存技术的研发风险之间存在一道鸿沟。内存开发周期通常为2-3年,而AI迭代速度极快,没有人能准确预测两年后哪个具体特性最受欢迎。依赖一个尚未成熟的新技术,风险实在太高。
即便性能有优势,也必须高到足以覆盖额外的成本与风险。考虑到基础设施工程和部署团队的各种麻烦,新内存需要跨越的门槛,绝非轻易就能迈过。
话说回来,内存始终会是未来AI系统的核心引擎。行业必须持续为下一代系统进行创新,才能让AI跑得更快、创造更大价值。好消息是,整个行业已经在积极行动了。
