当神经网络遇上微分方程,一个被忽视的速度瓶颈
给三维物体表面建模,听起来很专业,但它其实离我们很近。比如,从核磁共振数据里重建大脑皮层——既要保证几何细节分毫不差,又要维持严格的拓扑一致性,曲面不能自相交,不能出现“洞”。这事儿,传统方法做起来很吃力。
近年来,一类叫神经动力学系统(NDS)的方法崭露头角。它把神经网络“嵌入”到连续时间的微分方程求解过程中,在精度和稳定性上,表现远超传统卷积网络和Transformer。但这套方法有一个众所周知的软肋:它太慢了。
慢到什么程度?一次完整的迭代,往往需要几百毫秒。就算你把GPU、FPGA甚至专用ASIC都搬上来,这个延迟瓶颈依然难以突破。说白了,就是硬件的计算速度跟不上算法的复杂度。这也是为什么高保真几何重建,至今很难做到实时完成。
不过,7月2日发表在《Science》上的一项研究,给出了一个全新的答案。来自北京大学杨玉超教授团队、中国科学院上海微系统与信息技术研究所宋志棠研究员团队,巧妙地利用相变存储器(PCM)忆阻器的物理特性,设计了一款40纳米的NDS专用芯片。结果如何?单次迭代的计算延迟被压缩到了2.12毫秒,端到端的脑皮层重建任务,延迟低至426.31毫秒。相比GPU A100,实现了50倍到478倍的加速,功耗同时降低了11.75至24.73倍。

图1|多级、细粒度可控电导漂移(CCD)忆阻器构成的NDS硬件总览:从物理世界建模到芯片实现(图片来源:论文Fig.1)

论文标题:A sub-10-millisecond neural dynamical system based on phase-change memristors
论文链接:https://doi.org/10.1126/science.aee6277
发表期刊:Science,2026年7月2日
作者单位:北京大学、中国科学院上海微系统与信息技术研究所等
DOI:10.1126/science.aee6277
瓶颈拆解:NDS硬件设计的三大难题
要理解这项工作的巧妙之处,得先弄清楚NDS到底慢在哪里。论文将其归纳为三个层面的挑战:
第一,自适应步长搜索代价高昂。NDS依赖Runge-Kutta(RK)这类数值积分方法,每一步都需要根据局部误差动态调整步长Δt。形变剧烈的地方,步长要足够小才能保证稳定性;平滑区域,则要放大步长以提高效率。但在传统实现中,这涉及到大量的读写、缓存和乘法运算。仅步长搜索电路,就能占据芯片近三分之一的面积和约五分之一的延迟。
第二,嵌入式神经网络(ENN)需要被高频调用。其推理延迟和存储开销,直接决定了整体性能。数据搬运甚至能占到总延迟的四分之一以上。
第三,NDS还包含根号计算等特殊计算核,需要专门的硬件支持。在传统冯·诺依曼架构下,存储和计算分离,数据在两者之间来回搬运,天然存在存储墙问题。
研究团队的应对策略很碘伏:与其用数字电路计算步长,不如让物理器件自己“演化”出步长。这正是相变存储器发挥价值的地方。
核心创新一:让电导漂移替你做步长搜索
相变存储器的核心材料是锗锑碲(GST)合金。通过施加电脉冲,可以让器件在高阻的非晶态与低阻的晶态之间转换。团队发现了一个关键现象:PCM器件的电导会随时间发生一种可预测、可控制的漂移(CCD)。
以往,这种漂移被视为“噪声”或“缺陷”。但研究者反其道而行之,把它变成了一种计算资源。他们用电导值直接编码步长Δt,让步长的“试探”过程,等价于电导随时间自然漂移的物理过程。这样一来,传统方案里大量的读、写、乘法电路,统统被省掉了。
实验显示,无论是SET还是RESET操作,不同电导状态之间的漂移规律都保持一致。团队还验证了超过10¹⁰次循环的读写耐久性,这意味着芯片可以稳定运行数年之久。


图2|细粒度CCD实现原位步长搜索:PCM器件的相变机制、电导漂移特性及大规模器件的一致性验证(图片来源:论文Fig.2)
核心创新二:把神经网络“焊”进存储阵列
步长搜索之外,NDS真正的算力消耗大头是ENN本身的推理,尤其是其内部大量的矩阵乘加运算。团队采用了近年来备受关注的存内计算(CIM)思路:利用PCM器件的多级电导特性,把神经网络的权重直接以电导值的形式编程进忆阻器阵列。这样一来,乘加运算在模拟域内、在存储单元原地就能完成,无需再把数据搬运到独立的运算单元。
具体来看,团队设计了一种双列差分结构,将权重量化为8个电导等级,足以覆盖32×32到128×128规模的ENN权重矩阵。配合“写后校验”编程方案,实现了16个电导态的高精度写入。最终,整个ENN存内计算阵列与步长漂移阵列的总面积,仅为0.28平方毫米。其中,288×512的PCM 1T1R阵列,集成了约14.7万个存储器件。

图3|多级电导特性精准映射调控机制(图片来源:论文Fig.3)
芯片架构:四步走完成一次NDS迭代
团队流片验证了一颗40纳米NDS芯片,运行在50兆赫兹时钟下。它将上述两大机制整合进同一套外围电路,包括脉冲生成电路、逐次逼近型模数转换器、字线/位线/选择线驱动电路等。
以经典的四阶Runge-Kutta方法搭配多层感知机ENN为例,一次完整的NDS计算被拆解为:ENN的存内计算与步长的电导漂移。最后,用k1至k4中间量乘以步长Δt,得到该步的输出结果与误差估计。
与同样基于CMOS工艺的专用ASIC方案相比,用PCM替代SRAM权重缓存,节省了0.26平方毫米面积;而原位步长搜索机制,进一步省去了乘法器、缓冲器等电路。最终,整体面积仅为0.28平方毫米。性能上,面对同一套ENN和步长搜索任务,该芯片相比此前的ASIC方案,分别实现了3.82至36.27倍的速度提升,同时功耗降低11.75至24.73倍。

图4|NDS芯片版图与计算数据流:芯片实物照片、四阶段计算时序及面积/延迟/功耗对比(图片来源:论文Fig.4)
真刀真枪:脑皮层重建提速近500倍
团队选择了一个公认极具挑战性的任务——高保真几何建模,同时重建大脑白质与灰质皮层曲面。这类曲面的褶皱形态蕴含着重要的解剖与功能信息,且必须保证生成的网格是无自相交的、亏格为0的闭合流形。
与传统的FreeSurfer方法以及不含RK积分过程的普通神经网络相比,基于PCM的NDS方案在不同误差容限下的自相交率明显更低(0.0001至0.1064,而普通神经网络为0.1235)。生成的三维打印皮层曲面,也未出现“非流形”的自相交缺陷。定量指标上,重建曲面的平均对称表面距离在白质、灰质上分别为0.245和0.376,豪斯多夫距离分别为0.525和0.786,达到了高保真重建的精度要求。
再看速度:使用Intel至强8462Y处理器多核运行FreeSurfer,单次重建需要8722秒到11860秒;GPU A100在不同误差容限下需要1.83秒到21.47秒;而PCM-NDS芯片将同一任务的耗时压缩到了3.85毫秒到426.31毫秒。相比GPU,实现了50.38倍到478.18倍的加速。这真正把高保真几何重建,从计算瓶颈变成了可以实时完成的操作。

图5|NDS硬件在物理建模中的应用:脑皮层重建质量对比与不同硬件平台的速度基准(图片来源:论文Fig.5)
写在最后:忆阻器计算的一次“顺势而为”
这项工作最打动人的地方,在于它的思路。相变存储器的电导漂移,曾被视为需要被抑制的非理想特性。而团队通过掺碳等工艺手段精细调控这种漂移,反过来把它变成了一种天然的、连续的计算资源,用于原位完成传统数字电路需要大量读写和乘法运算才能完成的步长搜索。
这也为存内计算的应用场景提供了新思路:除了大家熟悉的深度学习矩阵乘加加速,忆阻器件的模拟特性同样可以承载更复杂的数值计算过程——比如微分方程求解、动力系统建模等,这些长期被认为耗时、耗能的任务。随着高保真物理建模在具身智能、数字孪生、医学影像等领域需求日增,这种将算法特性与器件物理深度耦合的软硬件协同设计思路,很可能会成为下一代低延迟AI硬件的重要方向。
