1月1日,IT之家传来消息:今日下午,DeepSeek团队发布了一篇重磅论文,提出了一种名为mHC(流形约束超连接)的全新神经网络架构。根据论文介绍,这项研究旨在解决传统超连接技术在大规模模型训练中普遍存在的不稳定性问题,同时又能充分保留其带来的显著性能提升。
该论文的第一作者共有三位,分别是解振达(Zhenda Xie)、韦毅轩(Yixuan Wei)以及曹焕奇。值得一提的是,DeepSeek创始人兼CEO梁文锋亦位列作者名单之中。

IT之家摘录了论文摘要的核心内容,大意如下:
近年来,以超连接(HC)为代表的研究通过扩展残差宽度和多样化连接模式,极大地拓展了过去十年间建立的、无处不在的残差连接范式。尽管这种多样化带来了显著的性能提升,但它也从根本上损害了残差连接固有的恒等映射属性,从而导致了严重的训练不稳定性和受限的可扩展性,同时还会产生显著的内存访问开销。为了应对这些挑战,我们提出了流形约束超连接(mHC)。这是一个通用框架,能够将HC的残差连接空间投影到特定的流形上,以恢复恒等映射属性,同时结合严格的基础设施优化以确保训练效率。实验结果表明,mHC对于大规模训练是行之有效的,能够带来切实的性能改进和卓越的可扩展性。我们预计,mHC作为HC的一种灵活且实用的扩展,将有助于更深入地理解拓扑架构设计,并为基础模型的演进指明富有希望的方向。
论文相关链接
Hugging Face:https://huggingface.co/papers/2512.24880Arxiv:https://arxiv.org/abs/2512.24880
