生物大模型为何仍缺一块关键“拼图”?
近年来,基础大模型开始在生命科学与药物研发领域崭露头角。从分子生成、蛋白质设计,到预测分子与蛋白的相互作用,AI正助力研究者更快地解读复杂的生命系统。然而,生物世界从来不是孤立运作的——它由多种信息模态交织而成。
一个分子,可以表示为SMILES或SELFIES序列,也能通过三维构象来描述,甚至还出现在论文、专利或数据库的自然语言描述中;一个蛋白质呢?既有氨基酸序列,也有折叠后的三维结构,还关联着功能、疾病、通路和大量实验背景。更关键的是,真实的生物任务很少只关注“单个实体”——分子与蛋白如何结合、蛋白与蛋白如何互动,才是问题的核心。
可目前的生物基础模型,大多只能覆盖其中一部分。有的擅长处理序列和文本,但缺乏显式的结构理解能力;有的能搞定蛋白结构,却只盯着单一实体;还有一些系统,依赖外部编码器、适配器或专用输出头来拼凑,结果是“能读某个模态,却不能直接原生生成该模态”。
打个比方:现有的大模型就像一支各司其职的专家团队——有人懂序列,有人懂结构,还有人懂文本;但他们之间需要翻译官(适配器/编码器)才能协作。BioMatrix想做的事是:让一个人学会所有技能,不再需要翻译。

为了补上这块拼图,研究团队提出了BioMatrix——一个面向分子与蛋白的统一多模态生物基础模型。它的思路很直接:把分子序列、分子结构、蛋白序列、蛋白结构和自然语言,全部映射到同一个离散token空间里。这样一来,只用一套decoder-only架构,就能同时搞定理解和生成。这标志着生物大模型正在从“多组件拼接”走向“原生统一建模”。
BioMatrix 统一多模态 Tokenization

一句话概括BioMatrix的核心:把分子、蛋白和文本放进同一个“模态矩阵”里,让模型用同一种语言来理解和生成生命科学对象。
具体怎么做?通过统一的多模态tokenization,它将以下五类信息映射到共享的离散词表中:
- 分子1D序列:支持SMILES和SELFIES两种表示;
- 分子3D结构:用改进的MolStrucTok把三维构象离散化;
- 蛋白1D序列:直接用氨基酸序列token;
- 蛋白3D结构:通过GCP-VQVAE将蛋白结构编码为离散的结构token;
- 自然语言文本:保留语言模型原有的文本词表,用来承载科学描述、任务指令和背景知识。

在这个框架下,过去那些看起来完全不同的任务——比如分子描述生成、文本条件分子设计、蛋白折叠、逆折叠、蛋白序列与结构联合生成、分子-蛋白亲和力预测——全都可以统一成同一种形式:给定一段由不同模态token组成的输入,让模型继续生成目标模态的token。
这意味着BioMatrix不需要外部编码器、投影适配器或任务专用的输出头。它就像通用语言模型生成文本一样,原生地处理分子、蛋白、结构和语言之间的转换与推理。
从“单模态专家”到“多模态通才”

过去的生物AI模型,各有所长:有的专攻蛋白结构,有的专注分子生成,还有的擅长理解生物医学文本。但真实的科研问题,更像一个跨学科项目——需要同时读懂分子结构、蛋白结构、实验文本和相互作用关系。
BioMatrix试图把这些能力塞进一个统一模型里。它的目标不是在某一个任务上定制一个专用系统,而是构建一个可迁移、可扩展的生物基础模型底座,让同一个模型能覆盖更广泛的生命科学任务。
相比BioT5系列那种多模块架构,BioMatrix直接迈向原生统一:所有模态共享同一套token空间和单一decoder,不再需要外部编码器或适配器来当“桥梁”。
具体实现上,BioMatrix基于Qwen3-1.7B和Qwen3-4B构建了两个规模的模型,并在大约304.4B tokens的大规模多模态语料上进行了继续预训练。这个语料覆盖了四类核心数据:
- 通用与科学文本;
- 分子相关数据(序列、结构、文本视图);
- 蛋白相关数据(序列、结构、功能描述);
- 跨实体与交错数据(分子-蛋白相互作用、蛋白-蛋白相互作用,以及生物实体与科学文本交织的数据)。
通过这样的训练,模型不仅学会了单个实体的表示,也学到了不同模态、不同实体之间的对应关系。
指令微调:覆盖80个生物下游任务
为了验证BioMatrix是否真的具备统一建模能力,研究团队构建了一个覆盖面很广的指令微调与评测体系,涵盖80个下游任务、6大任务类别。这些任务横跨三类实体范围:
- 分子任务:包括分子描述生成、文本条件分子设计、分子性质预测、分子构象生成等;
- 蛋白任务:包括蛋白折叠、逆折叠、蛋白功能注释、蛋白序列-结构联合生成等;
- 分子-蛋白 / 蛋白-蛋白交互任务:包括分子-蛋白亲和力预测、蛋白-蛋白结合界面预测、跨实体相互作用建模等。
同时,每类任务还进一步覆盖了1D序列与3D结构两种模态层级。


这套任务体系不光是考模型“会不会做题”,更考察它能否在序列、结构、文本和跨实体关系之间自由切换。
结果突出:一个统一模型,在77/80个任务上达到领先或竞争水平

实验结果表明,BioMatrix在广泛的生物任务上展现出了很强的通用能力。在80个评测任务中,BioMatrix在77个任务上达到了SOTA或具备竞争力的表现——这说明,一个原生多模态的通才模型,完全可以在大量任务上匹配甚至超越那些专用模型。
更值得注意的是,BioMatrix的优势尤其体现在那些真正需要“统一建模”的任务上,比如:
- 文本条件分子生成:模型得把自然语言里的设计意图转化成分子表示;
- 属性条件分子构象生成:模型需要同时理解分子结构和目标性质;
- 蛋白序列-结构联合生成:模型得在序列和三维结构之间建立起一致关系;
- 结构驱动的分子-蛋白亲和力预测:模型需要同时处理小分子结构、蛋白结构和跨实体相互作用。
这些结果说明,BioMatrix的提升不只来自更大的模型规模,更关键的是它那套统一token空间和原生多模态建模方式。
结论与未来展望
BioMatrix提出了一条通向统一生物基础模型的新路径:不是为每个任务构造一个专用架构,而是把分子、蛋白、结构和语言都纳入同一个token空间,让模型在统一的生成式框架下学习生命科学对象之间的关系。想象一下,在药物发现中,研究者可以用自然语言描述目标性质,然后模型直接生成候选分子及其3D构象,同时预测它与靶点蛋白的亲和力——所有这些,都在一个模型内完成,不需要串联多个工具。
当然,BioMatrix还有进一步改进的空间。比如,当前的分子3D结构与蛋白3D结构仍然在使用不同的结构tokenizer,还不能完全原生地表达小分子与蛋白口袋之间的相对空间位姿;模型目前主要覆盖小分子和蛋白,还没有扩展到DNA、RNA、糖类、脂质等更多生物实体。与此同时,如何在高度异构、数据不平衡的生物任务中训练出一个真正全任务统一的SFT模型,也仍然值得深入探索。
但话说回来,BioMatrix已经迈出了关键一步:它证明了一个统一的、原生多模态的生物大模型,可以在广泛的任务上接近甚至超越那些专用模型。对于AI4Science、药物发现和蛋白工程来说,这无疑打开了新的想象空间。
论文:https://arxiv.org/abs/2606.22138
项目:https://github.com/QizhiPei/biomatrix
模型与数据:https://huggingface.co/collections/QizhiPei/biomatrix
参考资料
[1] Pei, Qizhi, et al. "BioMatrix: Towards a Comprehensive Biological Foundation Model Spanning the Modality Matrix of Sequences, Structures, and Language." arXiv preprint arXiv:2606.22138 (2026).
[2] Gao, Kaiyuan, et al. "Tokenizing 3d molecule structure with quantized spherical coordinates." Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V. 1. 2026.
[3] Pourmirzaei, Mahdi, et al. "GCP-VQVAE: A Geometry-Complete Language for Protein 3D Structure." NeurIPS 2025 AI for Science Workshop.
[4] Pei, Qizhi, et al. "Biot5: Enriching cross-modal integration in biology with chemical knowledge and natural language associations." Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing. 2023.
[5] Pei, Qizhi, et al. "Biot5 : Towards generalized biological understanding with iupac integration and multi-task tuning." Findings of the Association for Computational Linguistics: ACL 2024. 2024.
[6] Yang, An, et al. "Qwen3 technical report." arXiv preprint arXiv:2505.09388 (2025).
