游乐游手机版
首页/科技数码/文章详情

梁文锋发布名论引爆DeepSeek,AI前沿新作深度解读

时间:2026-01-01 22:55
1月1日消息,DeepSeek赶在新年前发送了“贺礼”,在新论文中提出了名为mHC(流形约束超连接)的新网络架构,旨在解决传统架构在大规模模型训练中的不稳定性问题,这一研究或将为下一代基础架构的演进

1月1日传来消息,DeepSeek在新年到来之际送上了一份“贺礼”——他们在最新论文中提出了名为mHC(流形约束超连接)的新型网络架构,旨在解决传统架构在大规模模型训练中常遇到的稳定性难题。这项研究或许能为下一代基础架构的演进指明新的方向。


这篇题为《mHC:Manifold-Constrained Hyper-Connections》(《mHC:流形约束超连接》)的论文,由DeepSeek创始人兼CEO梁文锋参与署名,而解振达(Zhenda Xie)、韦毅轩(Yixuan Wei)和曹焕琪(Huanqi Cao)则是核心贡献者。

近年来,以超连接为代表的研究拓展了过去十年确立的通用残差连接范式,它通过拓宽神经网络的“信息传输通道”、增加通道间的连接,使模型性能得到提升。但这种多样化也引发了一系列问题,包括大规模训练中的不稳定性、可扩展性受限以及内存访问开销过大。

因此,DeepSeek在这篇论文中针对超连接架构的这些问题,提出了一个兼顾性能与效率的改进框架,即mHC架构。这类似于给超连接的“信息通道”加上了一套“交通规则”,在保留性能优势的同时,恢复了信息原样传递的特性,让模型训练变得更稳定、更容易扩展,从而推动大模型底层架构的工业化落地。

虽然这篇论文整体技术性较强,但通俗地讲,如果把AI模型想象成一条很长的“计算链条”,传统计算链条的问题在于,传递信息时是一条狭窄的管道,信息量大了就会“堵车”。后来的方法是将管道加宽(超连接),信息流更多,但水流太猛有时会把水管冲坏。DeepSeek提出的mHC相当于给水管加了“智能调节阀”,能确保水流的稳定,运行时也更省资源。

在论文中,DeepSeek表示,mHC为未来研究开辟了多个前景广阔的路径。研究团队希望mHC能重新激发学界对宏观架构设计的兴趣。通过深化对拓扑结构如何影响优化与表征学习的理解,mHC或将有助于突破当前限制,并可能为下一代基础架构的演进指明新方向。

从行业意义来看,mHC或许能让企业在训练更大规模的基础模型时,减少硬件投入、缩短训练周期。比如算力有限的中小AI企业,也能尝试开发更复杂的大模型,降低大模型研发的门槛。此外,训练稳定性和可扩展性的提升,能让大模型在更复杂的场景落地,比如需要超大规模参数的多模态模型、工业级的智能决策系统。

有行业人士评价认为,DeepSeek这项研究是底层创新,这次创新的架构着眼于Transformer最基础的问题,结合此前的积累,他预测DeepSeek有望在V4版本中做出重大的更新。

自2025年初引发广泛关注以来,这一年DeepSeek虽未正式推出R2或V4等重大版本,但在模型迭代与开源上持续发力:仅12月就同步推出了DeepSeek-V3.2与V3.2-Special,11月底也开源了数学推理模型DeepSeek-Math-V2,成为目前首个达到国际奥数金牌水平并开放使用的数学模型。

来源:https://www.163.com/dy/article/KI7H99720519DDQ2.html
上一篇蔚来、小鹏等新势力年销近60万辆,2023年度冠军花落谁家? 下一篇xTool冲刺港交所:腾讯领投2亿美元,消费科技品牌受瞩目
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。