这项由香港科技大学、浙江工业大学与百度共同完成的研究，以预印本形式于2026年7月2日发布，论文编号为arXiv:2607.02508。对技术细节感兴趣的读者，可通过该编号查询完整论文，进行深入学习。
要理解这项研究的核心意义，不妨从一个厨师的故事说起。假设你是一位正在训练新学徒的厨师，手头有两种方法能让学徒更快进步：第一种，让学徒反复练习同一道菜，但每次练习都搭配一位更资深的厨师，通过互相观察与模仿来提升技能；第二种，将同一道菜的食材在不同烹饪阶段向学徒展示——有时是生的，有时是半熟的，有时是即将出锅的——让他见识更多状态，积累更丰富的经验。这两种方式都能促进学徒进步，但背后的原理截然不同：前者依靠“合作”，后者依赖“见多识广”。
当前，AI图像生成领域恰好存在类似的争论。一批顶尖的AI模型，被称为“扩散变换器”（Diffusion Transformer，简称DiT，可理解为专门负责生成高质量图像的AI核心），近年来在加速训练与提升生成质量方面取得了显著进展。其中，两种名为SRA和Self-Flow的训练方法引起了研究者的广泛关注。这两种方法均属于“表征对齐”技术——通俗地说，就是让AI在学习绘制图像的同时，也学会更深入地理解图像本身的含义。
SRA是这一领域的先行者。其核心思想是：在同一个AI模型内部，让处于“更混乱状态”（即含有更多噪声，可理解为图像被处理得更模糊）的早期层，向处于“更清晰状态”（即噪声更少）的深层学习。这就像让一位正在观看模糊监控录像的侦探，向一位能看清高清视频的同事学习判断方法，从而倒逼自身能力的提升。这种方式不依赖任何外部工具，完全是AI模型内部“自我对话”以提升能力。
Self-Flow则在SRA的基础上更进一步，其关键创新在于“双时间步调度”。用厨师的比喻来说，SRA相当于将整道菜统一放在“半熟”阶段展示给学徒；而Self-Flow则将同一道菜的不同部分同时置于不同烹饪阶段——左边的食材还是生的，右边的已经快熟了，让学徒同时看到多种状态。在AI的世界里，这意味着图像的不同像素块（称为“token”，可理解为图像被分割成的小方格）会被添加不同程度的噪声，有的极其模糊，有的相对清晰，共存于同一次训练中。Self-Flow的研究者认为，这样做的好处在于：较清晰的小方格能够帮助较模糊的小方格“推断”出正确答案，从而实现更强的自我监督学习。最终结果也证明，Self-Flow的表现确实优于SRA。
然而，香港科技大学等机构的研究团队决定追根溯源，提出一个关键问题：Self-Flow的进步，是否真的源于“清晰方格帮助模糊方格”的互动机制？还是仅仅因为AI同时见识了更多样的图像状态，即一种变相的数据扩充效果？
这两种解释听起来相似，但本质差异巨大。如果是前者，说明AI确实在进行某种类似“同伴互助学习”的复杂过程；如果是后者，则表明Self-Flow的改进主要来自训练数据在噪声维度上的多样化，本质上只是一种聪明的数据增强手段。
一、侦探破案：设计一把“手术刀”分离两种效果
为了厘清这一问题，研究团队必须设计一种精妙的实验——既保留Self-Flow的双时间步结构，又能切断“不同状态小方格之间互相交流”的可能性。他们发明了一种名为“注意力分离”（Attention Separation）的操作，其名称直接点明了工作方式。
在AI的注意力机制中（这是现代AI核心理解信息的能力，可类比为人类阅读文章时，会将注意力分配到不同词汇之间的关联上），每个小方格通常可以“看到”图像中所有其他小方格，并与它们互相参考。这种全局互动能力是AI生成高质量图像的重要基础。
注意力分离的过程，就像在开放式办公室中安装隔断：属于同一“噪声等级组”的小方格，彼此之间仍能正常交流；但属于不同噪声等级的小方格，则被完全隔断，无法互相参考信息。在数学上，这通过一个“屏蔽矩阵”实现——给不同组之间的注意力分配“负无穷大”的分数，使其在概率计算中彻底被忽略，效果如同在注意力矩阵中形成分块对角线的结构。
这一设计的精妙之处在于：输入给AI的数据完全没有变化——同一张图像依然有一部分方格处于高噪声状态，另一部分处于低噪声状态，双时间步的“多样性”完整保留。唯一改变的，是这些方格能否互相交流。于是，研究团队获得了一把精密的“手术刀”：如果切断互动后性能下降，说明Self-Flow的进步确实来自跨噪声等级的互动学习；如果性能没有下降甚至提升，则表明双时间步的主要效果来自数据层面的多样性，而非互动本身。
实验结果令人意外，甚至有些反直觉。在ImageNet（一个包含数百万张图像的权威数据集，研究者常用来测试AI模型能力）上，使用SiT-B（一种中等规模的图像生成模型）进行训练。衡量图像生成质量主要采用两个指标：FID分数（越低越好，代表生成图像与真实图像越接近）和IS分数（越高越好，代表图像质量与多样性更佳）。
对比结果显示，在训练80万步之后，采用全局注意力（允许所有方格互相交流）的Self-Flow获得了FID 25.19和IS 66.75；而采用注意力分离（不同噪声等级的方格互相隔断）的版本，FID反而降至25.06（更优），IS更是大幅提升至72.94（更优）。切断跨噪声互动后，性能非但没有下滑，反而有所进步。
这一结果直接推翻了Self-Flow原论文中的解释。双时间步调度的优势，并非来自“清晰方格帮助模糊方格推断信息”，而是因为同一张图像在不同噪声状态下被同时呈现，让模型见识到了更多样化的训练数据——就像厨师故事中的第二种方法：学徒的进步，是因为他同时看到了食材在生、半熟、快熟多种状态下的样子，而不是因为他与旁边更厉害的学徒配合。
二、更进一步：注意力分离本身也是数据扩充
在揭示双时间步的真实工作原理后，研究团队对注意力分离这一操作本身进行了更深入的研究。一个新的问题浮现：在“单时间步”训练中（即图像所有方格处于同一噪声等级，不存在跨噪声的多样性），单独使用注意力分离是否有效？
按直觉推断，单时间步下所有方格的噪声等级相同，不存在不同噪声的信息可以互动或“增强”，注意力分离似乎应无作用。然而，实验显示，在单时间步训练中单独引入注意力分离后，IS分数依然从63.86明显提升至71.62，FID也从26.34改善至25.81。
这又是为何？研究团队提出了一种直觉上相当清晰的解释：当一张图像的所有方格被分成两组，每组只能在内部互相交流时，每一组实际上只看到了完整图像的一个局部——就像将一张拼图分成两半，每半边各自独立进行信息处理。这两个“局部视角”，在共享同一AI模型参数的情况下，被同时优化，相当于一张图像在单次训练中产生了两个有效的“训练样本”，每个样本看到的是不同的内容子集。
这种效果，与机器学习领域经典的数据增强思路惊人地相似。在图像识别研究中，有一种名为CutMix的技术，将不同图像的区域拼接在一起，强迫AI从局部线索推断整体；有一种名为MAE（Masked Autoencoder，遮蔽式自编码器）的训练方法，随机遮住图像的部分区域，让AI用剩余部分推断被遮住的内容。注意力分离的效果与这些方法的核心逻辑高度相通：通过限制AI每次看到的“完整信息量”，迫使其从局部视角重建完整图像的语义。
于是，这项研究得出了一个统一的结论：双时间步调度，是沿着“噪声维度”的数据增强——同一张图像在更多样的噪声状态下呈现，扩充了训练数据在噪声层面的分布；注意力分离，是沿着“视角维度”的数据增强——同一张图像被切分为多个局部视角，扩充了训练数据在内容覆盖层面的分布。两者从不同角度发挥了类似的作用。
三、细节调校：遮盖比例的平衡之道
研究团队还对注意力分离中一个重要参数进行了细致调查：遮盖比例，即分配到不同噪声等级组的方格各占多大比例。用字母α表示，α = 0.25代表将图像方格分成25%和75%两组，α = 0.50代表各占一半。
实验揭示了一个有趣的规律。当使用全局注意力（不做注意力分离）时，无论遮盖比例如何变化——0.25、0.35还是0.50——双时间步训练都能稳定优于单时间步基线。这与数据增强的解释高度吻合：只要图像在不同噪声状态下被展示，模型就能受益，比例的微调不会破坏这一基本效果，因为全局注意力保证了每个方格仍能看到完整图像的全局信息。
然而，一旦引入注意力分离，遮盖比例的影响就变得显著。α = 0.25时效果最佳，IS高达72.94；但α = 0.50时，FID急剧恶化至38.19，比什么都不做还要差。原因在于一个关键的“训练与推理的不一致性”：在训练时，注意力分离让每组方格只能看到图像的局部（当α = 0.50时，两组各只有一半图像的信息）；但在实际使用（推理）时，AI模型恢复为正常的全局注意力，每个方格都能看到完整图像。当训练时的局部视角与推理时的全局视角差距过大，AI就会产生类似“训练考的是小范围，考试考的是大纲全集”的困惑，导致性能大幅下滑。
为了缓解这一问题，研究团队提出了一个简单有效的补救方案：混合训练。在每个训练批次中，将25%的样本仍按正常的单时间步、全局注意力方式训练，其余75%的样本使用双时间步加注意力分离。这样，AI在每次学习时都有一部分机会接触到推理阶段会遇到的“正常全局视角”，有效弥合了训练与推理之间的差距。实验验证，在α = 0.50的情况下，加入混合训练后，800K步时的FID从灾难性的38.19直接恢复至24.15，接近最优水平。而当α = 0.25时，混合训练的帮助相对有限，因为此时25%的方格一组本身已覆盖了图像的大部分内容，与全局视角的差距不大，训练与推理的鸿沟本来就较小。
四、把各个组件组合起来，看看最终战绩如何
在理清这些机制后，研究团队将所有有效组件组合成一个统一的训练方案：保留SRA的内部自对齐学习目标（让AI核心的早期层向深层学习）；在此基础上叠加双时间步调度，进行噪声维度的数据增强；再叠加注意力分离，进行视角维度的数据增强；并设置α = 0.25的遮盖比例，以避免训练与推理的严重不一致。
在ImageNet 256×256的标准测试场景下，该方案训练400万步后，FID达到1.44，IS达到315.3。对比来看，不使用任何辅助技术的基础SiT模型需要训练700万步才能达到FID 2.06，IS 270.3；使用SRA的版本在400万步时FID为1.58，IS为311.4；使用Self-Flow的版本在400万步时FID为1.47，IS为305.4。这一最终方案在IS指标上超越了所有自对齐方法，FID也优于SRA和Self-Flow，整体表现达到自对齐方法的最高水平，与使用外部预训练编码器（DINOv2）的REPA方法（FID 1.42）也非常接近，差距几乎可以忽略不计。
在分辨率更高的ImageNet 512×512测试场景下，该方案在仅训练100万步的情况下，FID达到2.08，与REPA并列所有方法中的最优，IS达到282.7，同样为所有方法中最高，同时优于SRA的2.17和Self-Flow的2.12。而基础SiT模型需要训练300万步才能达到FID 2.62。
这组数据表明，仅通过重新理解与组合现有技术，不增加任何模型复杂度，不引入任何外部工具，就能实现超越现有最优方法的成绩。
归根结底，这项研究揭示了一个颇具哲学意味的问题：当AI的训练表现提升时，我们是否真正理解了背后的原因？Self-Flow的作者认为，让清晰方格帮助模糊方格“互相启发”是关键；但香港科技大学等机构的研究团队，用一个简单而精妙的实验证明，切断互动后性能反而上升，说明最初的解释并不完整。真正起作用的，是让AI在训练中见识到更多样、更丰富的数据状态——无论是同一张图像在不同噪声程度下的呈现，还是将图像切分为不同局部视角分别学习。
这对整个AI图像生成领域的启示在于：与其耗费大量资源设计复杂的互动机制，有时更简单的数据多样化手段就能带来可观的收益。训练AI模型有点像培养一位厨师学徒——见多识广，往往比精心设计的“互助合作”更有效。当然，这并不意味着互动机制完全无用，只是说明在这一具体场景下，数据的多样性才是主导因素。
这项研究提出的方法完全基于模型自身，不依赖任何外部预训练编码器，这意味着它在没有强大外部工具辅助的场景下也能高效运作，对于资源有限或需要处理全新数据领域（缺乏现成预训练编码器）的研究者尤其具有参考价值。更重要的是，它为后续研究提供了重要的方法论提示：在声称“某种机制”起作用之前，务必设计受控实验来隔离各个因素，避免将数据层面的效果误解为学习机制层面的突破。
对这项研究感兴趣的读者，可通过arXiv编号2607.02508查阅完整论文。该研究附带的代码也已在GitHub上公开，方便技术人员复现与深入研究。
Q&A
Q1：Self-Flow的双时间步调度是什么意思？
A：双时间步调度是Self-Flow方法中的核心设计，指将同一张图像的不同小块（token）添加不同程度的噪声进行训练，有些小块非常模糊，有些相对清晰，让它们共存于同一次训练中。Self-Flow原本认为，清晰小块能帮助模糊小块“推断”正确内容，但这项论文的实验证明，真正的好处其实是让模型见识了更多样的噪声状态，属于数据增强效果。
Q2：注意力分离为什么在遮盖比例50%时效果会变差？
A：当注意力分离将图像方块各切一半（α=0.50）时，每组小块只能看到图像一半的信息。训练时AI习惯于从局部视角处理图像，但实际使用（推理）时，AI恢复为正常的全局注意力，能看到完整图像。这种训练与使用时的巨大差距，让AI产生“水土不服”，导致性能大幅下降。加入一部分正常全图训练样本（混合训练），可以有效缓解这一问题。
Q3：SRA、Self-Flow和这篇论文的方法有什么实际区别？
A：三者都属于不依赖外部工具的自对齐训练方法。SRA让AI内部早期层向深层学习，但每次训练中整张图像只有一个统一的噪声等级。Self-Flow在此基础上引入双时间步，让同一张图像的不同部分同时处于不同噪声等级。这篇论文的方法在Self-Flow基础上进一步加入注意力分离，阻断不同噪声等级小块的交流，将两者都理解为数据增强手段，最终在多数指标上超过了SRA和Self-Flow。
