深度原理MPA材料基座模型 物理对齐提升实验预测能力
时间:2026-06-03 12:01
MPA材料基座模型采用三阶段训练,通过中期训练的物理对齐缩小理论计算与真实实验差距,并引入混合读出结构。在40个真实实验性质预测任务中,平均误差降低14 0%至14 6%,取得35个最优结果。
从理论计算到真实实验的预测鸿沟
材料性质预测长期以来面临一个核心难题:模型在标准基准测试中表现优异,但在实际场景中却难以直接应用。理论计算数据如同教科书般规整、噪声可控,模型能够从中学习“结构-性质”的基础映射。然而,真实实验数据更像实战场景,充满了各种不可控因素:样品质量差异、测试条件波动、仪器误差等,使得数据变得“不干净”。工业上需要预测的性质,也远比单一标准指标更复杂。因此,材料AI模型必须具备“举一反三”的能力,在理论计算与真实实验之间建立稳定的迁移学习能力。
这正是MPA设计的出发点:通过一套更系统、更精密的训练流程,让模型不仅死记硬背结构特征,更要真正掌握与真实性质预测相关的物理规律。
借鉴LLM三阶段训练,进行物理对齐

MPA的基础架构采用Transformer,分为“躯干”和“头”。躯干是通用的图Transformer,用于学习材料体系的基础表征;头则根据不同任务进行微调,完成具体性质预测。关键的创新在于,它并未沿用“先预训练再微调”的传统路径,而是在中间插入了一个重要环节:中期训练(mid-training)。
这在大型语言模型(LLM)的发展中已被验证为有效:预训练学习通用知识,中期训练强化通用能力,最后微调适配具体任务。MPA将这套策略引入材料领域。预训练阶段让模型掌握基础化学知识;而mid-training阶段则利用大规模计算数据和部分通用实验数据,对模型进行**物理引导的对齐(physics-guided alignment)**。这一步旨在缩短理论结构表征与真实实验性质之间的差距。
对于材料模型而言,仅理解“原子排列”远远不够。它还需要洞悉背后的物理原理,例如生成焓、偶极矩、热容等性质与局部结构、整体材料之间的内在关系。第一性原理计算数据天然适合这一任务——可规模化、噪声低、物理意义明确,是mid-training阶段最理想的训练素材。通过这一额外训练,MPA在接触真实实验数据之前,就已建立起更强的物理归纳偏置。

Hybrid Readout:面向实验性质预测的后训练结构
除了训练流程,MPA的另一大亮点是后训练阶段引入的**混合读出(Hybrid Readout)**。
不同材料性质的物理结构差异显著。有些性质如沸点、生物活性,更依赖材料的整体表征;而另一些如生成焓、热容,则具有明显的“加和”特征,整体数值由各原子或局部结构的贡献累积而成。若对所有性质采用统一的“读法”,模型就需要同时学习两套截然不同的规律,难度和所需数据量都会骤增。

MPA的解决方案巧妙简洁:在后训练阶段设计了两条并行路径。一条是**注意力池化(attention pooling)**,让模型通过注意力机制从整体视角把握材料信息,适合处理依赖整体结构和复杂相互作用的性质。另一条是**原子加和(atomic summation)**,先预测每个原子对性质的贡献,再累加求和。这种结构天然嵌入了“整体由局部构成”的物理约束,特别适合处理热力学性质。
最终,模型通过一个可调参数α,将两条路径融合,能够根据不同任务自动调整“读法”。这并非盲目增加复杂度,而是将物理先验直接编码进模型结构,使模型在数据有限的实际实验任务中更易学到合理的规律。
在更接近真实研发的场景中提升更明显
为验证MPA设计的有效性,研究团队进行了严格的消融实验。对照组使用相同的预训练检查点,但跳过mid-training和Hybrid Readout,直接微调。结果显示:在40个真实实验性质预测任务中,完整版MPA在随机划分下有38个任务的预测结果获得提升,平均误差降低14.0%;而在更具挑战性的骨架划分下,同样有38个任务提升,平均误差降低14.6%。

骨架划分要求训练集与测试集在材料“骨架”上差异更大,这非常考验模型“预测全新结构”的能力。MPA在这个更困难的设置下提升反而更为显著,说明它并未死记硬背已有结构,而是真正学到了可迁移到陌生结构上的物理规律。

研究团队还将MPA与ChemBERTa、ChemProp、Uni-Mol2等主流模型进行了横向对比。结果毫无悬念:无论随机划分还是骨架划分,MPA的综合表现均位居第一,在40个真实实验任务中拿下35个SOTA。这一结果揭示了一个重要趋势:面向真实实验数据的材料性质预测,不能仅依赖堆叠数据量和参数规模。如何让模型在进入实验任务前“打好物理基础”,并在后训练阶段引入合适的任务结构,同样是决定成败的关键。
让材料基座模型走向可持续迭代
MPA的意义不止于一个刷榜的模型,它为材料基座模型提供了一条更可持续、更具扩展性的训练路线。过去,不同性质预测任务往往各自为战,从模型搭建到数据清洗、参数调优,重复劳动过多,积累的知识也难以沉淀。MPA尝试将第一性原理计算数据、高质量实验数据和面向任务的后训练整合到一个统一框架中。随着数据和任务类型的增长,模型能够通过中期训练和实验反馈不断“自我进化”。
这条路径与当前LLM的进化史高度一致。能力跃升不仅来自预训练规模扩大,更来自有效的训练、对齐和后训练。
“之前材料基座大模型的scaling效应不明显,很可能就是预训练和复杂下游任务不匹配造成的。” **「深度原理Deep Principle」创始人兼CTO段辰儒**一针见血地指出了问题所在。“现在MPA通过mid-training的物理对齐解决了这个问题。下一步就是扩大模型参数,并收集更大量、更多样的一手数据。”
目前,MPA已作为核心能力,接入「深度原理Deep Principle」的智能体产品。可以预见,随着计算数据、实验数据和自动化实验能力的不断增长,材料基座模型将从单点性质预测工具,逐步进化为支撑整个材料研发闭环的基础设施。

对MPA的性质预测能力和应用效果感兴趣,可以访问相关页面注册试用。更多技术细节,可查阅其官方博客和技术报告。