游乐游手机版
首页/科技数码/文章详情

网强算力破万亿模型瓶颈:新华三如何以超节点打造AI基础设施新范式

时间:2025-12-19 17:01
来源:环球网摘 要:面对万亿级大模型训练与推理中日益凸显的通信墙与算力利用率难题,紫光股份旗下新华三集团推出H3C UniPoD S80000超节点产品,基于“算力×联接”技术理念,通过Scale-

来源:环球网

摘 要:面对万亿级大模型训练与推理中日益凸显的通信墙与算力利用率难题,紫光股份旗下新华三集团推出H3C UniPoD S80000超节点产品,基于“算力×联接”技术理念,通过Scale-up架构实现GPU全互联,卡间带宽较传统8卡服务器提升8倍,单卡推理效率提升80%。该方案不仅支持液冷高密部署与多品牌GPU兼容,还针对大模型训练的长稳性需求,进行了软硬件协同调优。目前,该超节点已在多个大型智算项目中落地,并正向1024卡以上超大规模全互联演进,为AI大模型时代提供高性能、高可靠、高能效的算力底座。

关键词:新华三;超节点;AI基础设施;大模型;

案例正文:

2025年,大模型走向“技术摸高”与“工程创新”并行的新阶段,以DeepSeek为代表的高参数量MoE大模型逐渐成为业内主流。随之而来的,是市场对高性能算力需求的爆发式增长。这意味着,谁能够在大模型训推效率上跑赢对手,谁就有可能在瞬息万变的AI时代抢得市场先机。因此,如何搭建更优、更稳、更强劲的AI算力基础设施变得尤为重要,在此背景下,算力更强、通信更快、效率更高的超节点产品,成为当前算力领域最受关注的技术热点。

以网强算,超节点技术带来的大模型训推效率跃升

在经历百模大战后的商用落地阶段,各大模型厂商在实现技术落地之外的首要考量便是每Token成本。虽然目前单台服务器内已经可以基于OAM标准实现最高8卡GPU的直接互联,但更大规模的算力需求下还是要依靠跨节点的Scale-out方式进行集群组网,在动辄百卡、千卡级的大模型训推需求下,巨大的通信开销会造成算力利用率的大幅下降,大量GPU的等待和空转使得传统组网在整体训推效率表现上显得越发吃力。因此,依靠Scale-up技术实现GPU多卡全互联的超节点产品,成为破局智算效率瓶颈的最优解。

在万亿级参数量成为常态的当下,大模型训练阶段数据的传输量和传输频率激增,同时,张量并行、专家并行等训练模式以及超长序列多模态等技术场景也对GPU之间的带宽和时延提出了极高要求。基于Scale-up的节点内互联能够实现每个GPU之间的直接高速通信,相比跨节点的通信提高数倍带宽,从而大幅提升GPU利用效率,减少GPU空闲;同时,超高带宽、超低时延的互联网络,能够有效打破通信墙,大幅缩减以传统多机多卡方式布局训练的通信开销,真正实现以网强算。

另一方面,在大模型推理阶段,为了提升GPU使用效率,PD分离(Prefill-Decode分离)技术被广泛应用。然而,由于大模型逐token生成的特性,在推理Decode阶段,需要频繁访问KV Cache,对显存容量和带宽要求极高‌。而超节点支持‌计算与存储资源独立扩展,为Prefill配置高算力节点,为Decode配置大内存节点,避免资源浪费,同时‌其多卡部署、卡间高速直联的特性,能够大幅度降低推理的时延,确保KV Cache快速同步‌,天然适配PD分离场景。

兼顾性能与稳定,新华三超节点为AI提供强劲可靠的算力效能

基于在ICT领域的深厚积淀,紫光股份旗下新华三集团以“算力×联接”理念为技术依托,于近期推出了H3C UniPoD S80000超节点产品。作为面向万亿级参数模型训推场景的超节点产品,H3C UniPoD S80000以算力芯片多元化、互联协议标准化、基础设施集成化为核心设计理念,实现了更高性能、更高密度、更高效率的三重进化。柜内卡间全互联通信,相比传统8卡服务器组网,卡间互联带宽提升8倍,单卡推理效率提升80%。同时,H3C UniPoD S80000采用液冷高密部署,单柜可支持64卡超节点部署,并兼容下一代高性能AI加速卡。


在确保大模型训推效率的基础上,新华三超节点还深度考量了产品的稳定性和可维护性,在大模型训练进程中,任何一次中断都可能导致训练进度丢失、资源浪费甚至模型性能退化,因此,AI基础设施不仅要考虑训练性能的提升,更要确保训练连续性,避免时间与金钱的双重损耗。

对此,除了通过软硬件的协同调优来保障产品上线后的长稳训练不中断,硬件本身的稳定可靠至关重要。目前,在数百卡以上的超节点规模下,通常需要引入电+光的二层网络架构,新华三也在积极投入节点级的光互联技术研发和测试,在充分利用光技术带来的高速率、低延迟和低能耗优势的同时,尽可能降低光学器件一直以来的高故障率,为客户提供真正具备稳定性、可靠性的商用产品,保障大模型训练的长稳续航。

目前,新华三超节点产品已完成在多个大型项目的集群化部署,支持多款国内外主流GPU的兼容适配,并持续开展与上下游生态伙伴的软硬件协同开发和调优工作,积极布局1024卡及以上更大规模超节点产品的研发和落地,持续提升智算集群规模和效率。

AI技术持续进化,多元算力百花齐放,AI产业的繁荣依托基础设施的稳固与强劲。面向崭新的AI时代,新华三方面表示,将以超节点技术为全新路标,持续深化“算力×联接”技术理念,全面拥抱产业变革,不断构建性能强劲、多元开放、持续进化的算力基础设施,以技术聚合之力,加速百行百业智慧跃迁。

案例点评:

在大模型参数量激增、工程化挑战加剧的背景下,单纯堆砌算力已难以为继,系统级协同创新成为破局关键。新华三超节点以“以网强算”为核心思路,将高速互联从跨节点通信下沉至节点内全互联,有效打破通信瓶颈,显著提升GPU利用效率,体现了从“算力堆叠”向“算力质效”转型的战略前瞻性。尤为可贵的是,其在追求极致性能的同时,高度重视稳定性与可维护性,通过光互联技术预研与长稳训练保障机制,回应了产业对AI基础设施“既快又稳”的双重期待。这一实践不仅为国产智算基础设施树立了技术标杆,也为构建自主可控、高效绿色的大模型生态提供了坚实支撑。

——环球趋势案例征集组委会

来源:https://www.163.com/dy/article/KH5G7UOI0514R9OJ.html
上一篇学而思学习机T4:用AI重塑教育生产力,开创千人千面智慧学习 下一篇科华林清民:以数据技术创新打造更懂AI的算力
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
领克10与10+上市16.99万起 900V架构高性能运动轿车
科技数码 · 2026-05-30

领克10与10+上市16.99万起 900V架构高性能运动轿车

领克10与10+正式上市,限时起售价16 99万元至21 99万元。全系基于SEA浩瀚架构,标配900V高压平台,续航最高816公里,快充达“1秒极充2公里”。高性能版双电机四驱,3 2秒破百,曾登顶天门山弯道之王。操控由纽北团队调校,麋鹿测试85 4km h。标配激光雷达、8295芯片,高配可选Thor-U芯片实现高阶智驾。整车扭转刚度45500Nm de

海韵秀肌肉:5200W旗舰电源上线,单电源可带9张RTX5090显卡
科技数码 · 2026-05-30

海韵秀肌肉:5200W旗舰电源上线,单电源可带9张RTX5090显卡

海韵推出首款80PLUSRuby认证的5200WCRPS服务器电源,峰值效率96 5%,单电源可带动9张RTX5090。同步发布PRIMEENTERPRISE系列及VERTEX、FOCUS等多款消费级电源,覆盖服务器与桌面场景。

vivo S60系列发布 2899元起 支持4K原生感Live
科技数码 · 2026-05-30

vivo S60系列发布 2899元起 支持4K原生感Live

vivoS60系列手机正式发布,起售价仅为2899元。采用了星芒美学设计及独创立体星芒光刻工艺。影像升级4K原生感Live,配备了5000万像素云台防抖主摄与潜望长焦,支持CIPA5 0防抖标准。内置了7200mAh大电池,支持90W快充,具备IP69与IP68级防护。

特斯拉获L4认证 莲花放弃纯电 vivo电池升级 欣旺达10000mAh 今日要闻
科技数码 · 2026-05-30

特斯拉获L4认证 莲花放弃纯电 vivo电池升级 欣旺达10000mAh 今日要闻

特斯拉Robotaxi根据新规自我认证为L4级自动驾驶,扫清运营障碍。莲花CEO承认高估纯电转型速度,将推出燃油及混动车型。vivo调研换电池服务,老机型容量或增加。欣旺达已量产10000mAh手机电池,并布局半固态电池。

航天员武飞滑出舱 张陆从太空带回苹果
科技数码 · 2026-05-30

航天员武飞滑出舱 张陆从太空带回苹果

神舟二十一号乘组完成在轨使命后,搭乘神舟二十二号飞船于2026年5月29日20时11分精准降落东风着陆场,航天员张陆、武飞、张洪章身体状态良好,任务取得圆满成功。