先说一个有些反直觉的现象：尽管大语言模型已经能够编写代码、解答数学难题、执行复杂的逻辑推理，但在处理 DNA 序列时，它们的表现往往差强人意。
问题出在哪里？一段 DNA 在模型眼中通常只是「ACGTACGT……」这样的简单一维字符串。然而，在生物学家视角下，同一段序列蕴含着丰富的调控信息：哪些转录因子可能结合上去？motif 出现在什么位置？它们如何排列？GC 含量反映了怎样的序列背景？在不同细胞类型中，这些信号又会引发怎样的功能差异？
围绕如何让模型“读懂”这些信息，中国人民大学高瓴人工智能学院研究团队提出了 R3LM——全称 Reasoning Regression Reward Language Model。这套方案选择了一条颇具创新性的路径：首先将原始 DNA 编译为结构化的生物学证据，再让模型基于这些证据进行机制推理，最终输出可解释的调控活性预测结果。
该研究已被 KDD 2026 接收，论文地址为：https://arxiv.org/pdf/2606.08147。
让 LLM 读懂 DNA 的关键：先改变「输入语言」
顺式调控元件（cis-regulatory elements, CREs）是基因组中控制基因表达的核心区域。准确预测 CRE 的活性，对合成生物学、代谢工程、个性化医疗乃至智慧农业都具有重要价值。
近年来，深度学习模型已经能直接从 DNA 序列预测调控活性。然而，这类方法大多以黑箱方式运作：模型可以给出一个分数，却很难解释这个分数的生物学依据。当模型被用于序列设计时，这种黑箱奖励模型还可能引发 reward hacking 风险——算法找到一批模型打分很高但生物学上缺乏可信机制的候选序列。
R3LM 的出发点非常直接：要想让 LLM 参与 DNA 建模，必须先将 DNA 转写成它更容易理解、且更符合生物学逻辑的结构化表示。
为此，团队设计了 Regulatory Context Card（RCC）。可以将其理解为一张 DNA 的“调控上下文卡片”，它将原始序列整理成多类可核查的信息，具体包括：
motif 证据：转录因子结合位点、位置、方向和匹配强度；
序列统计：如 GC 含量等全局背景特征；
调控语法：motif 共现、聚集、间距和组合关系；
实验上下文：如细胞类型、测量条件等；
原始序列：保留底层信息，便于追溯。
通过 RCC，模型面对的便不再是单纯四种碱基字符的排列，而是一组有结构、有来源、有生物学含义的证据。初步实验也印证了这一点：直接让 LLM 读取原始 DNA 序列，表现平平；而加入 motif 和 GC 等上下文后，模型对调控活性的判断能力显著提升。这表明 LLM 并非缺乏推理潜力，真正的瓶颈在于 DNA 的表示方式。
从「打分」迈向「说明为什么打分」
当然，仅有结构化输入还不够。研究团队进一步构建了 CRE-ReasonBench，为调控 DNA 样本补充了机制推理轨迹。每个样本不仅包含 DNA 序列和活性标签，还附带一段基于 RCC 证据生成的推理过程——例如先分析 GC 含量，再检查关键 motif，然后结合细胞类型背景，判断可能的增强子活性。
- 第一阶段：让模型学习根据 RCC 生成结构化的机制解释，掌握“如何从证据推导出生物学判断”。
- 第二阶段：将 RCC 和模型生成的推理轨迹一起输入回归模型，预测连续的调控活性分数。为避免模型偷懒、直接依赖离散标签，训练时会特意移除推理文本中的最终等级结论，迫使模型必须依据证据和推理完成预测。
这样一来，R3LM 输出的结果包含两个层面：一个可用于序列优化的活性分数，以及一段可供研究人员核查的生物学解释。
图 1：R3LM 框架总览。 图中展示 RCC 构建、CRE-ReasonBench 数据生成、两阶段训练流程（保留原图位置）。
实验：结构化证据让 LLM 逼近 DNA 专用模型
团队在 K562、HepG2 和 SK-N-SH 三种细胞类型的增强子活性预测任务上评估了 R3LM。结果十分明确：直接读取原始 DNA 的 LLM，表现明显受限；换成 RCC 后，性能大幅提升；再引入机制推理，R3LM 在 K562 和 HepG2 上直接取得了最佳成绩，在 SK-N-SH 上也保持了很强的竞争力。
图 2：调控活性预测性能对比。 表格展示 R3LM、Enformer、DNABERT-2、NT 以及 Qwen 基线在三个细胞类型上的 Pearson 相关系数和 RMSE（保留原图位置）。
具体来看数据：在 K562 上，Qwen 直接读取原始序列时 Pearson 相关系数仅 0.3919；换成 RCC 后，直接跃升至 0.6886；R3LM 在自生成推理设置下更进一步，达到 0.8246，甚至超过了 Enformer 的 0.7990。在 HepG2 上，R3LM 也取得了 0.8025 的相关系数，略高于 Enformer 的 0.8001。
更值得关注的是，R3LM 的预测过程可以被审计。团队进行了一项 rationale shuffling 测试：将推理轨迹随机打乱，再输入模型观察结果。K562 上的相关系数从 0.8246 骤降至 0.0198。这表明推理文本确实承载着与预测相关的核心信息，而非附加在结果之后的装饰性解释。
图 3：阶段一推理生成器诊断与 CRE-ReasonBench 统计。 图中展示离散活性等级误差分布、RCC 中 motif 数量分布、推理文本长度分布和 motif 覆盖率（保留原图位置）。
迈向可解释的生命序列智能模型
R3LM 的价值不仅限于某一增强子预测任务。它背后提出了一种更通用的思路：当 LLM 进入基因组学场景时，关键问题之一是如何为生命序列构建合适的“语言接口”。
通过 RCC，DNA 可以被转写成结构化、可审计的生物学证据；通过机制推理，模型的预测分数能够与 motif、调控语法和细胞类型背景建立关联；通过连续 reward 建模，R3LM 还具备了辅助 CRE 设计和序列优化的潜力。
当然，目前 R3LM 仍依赖于已有的 motif 数据库和生物学先验，主要在 MPRA 增强子数据上完成验证。未来要扩展到更复杂的染色质环境、更长程的基因调控互作，以及更开放的 de novo 调控语法发现，还有许多值得深入探索的方向。
总体而言，R3LM 提供了一条让 LLM 理解 DNA 的新路径：将生命序列从原始字符转写为结构化知识，让模型在证据上推理，再将推理转化为可用于设计的预测信号。这种“结构化表达 + 机制推理 + 可解释预测”的范式，有望为下一代基因组智能模型奠定坚实的技术基础。