Deepseek-R1等AI模型实测:GB200 NVL72较HGX H200性能飙升10倍
12月4日,科技媒体Wccftech最新报道披露,英伟达的GB200 NVL72 AI服务器在"混合专家"模型架构上实现了重大性能突破。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
基于开源大语言模型Kimi K2 Thinking、Deepseek-R1-0528和Mistral Large 3的测试结果显示,新一代系统较上一代Hopper HGX 200在混合专家模型推理性能上提升了十倍之多。



注:混合专家模型(MoE)是一种高效的大型AI模型架构。传统模型在处理每项任务时需要动用全部"脑力"(参数),而MoE则类似于专家团队协作,根据任务类型仅激活最相关的一小部分"专家"(参数子集)来解决问题。这种机制能显著降低计算成本,同时提升处理速度。


英伟达为解决MoE模型扩展时遇到的性能瓶颈,采用了"协同设计"策略,该方法整合了GB200的72芯片配置、高达30TB的快速共享内存、第二代Transformer引擎以及第五代NVLink高速互联技术。
通过这些技术的协同工作,系统能够高效地将token批次拆分并分配到各个GPU,同时以非线性速率提升通信量,从而将专家并行计算能力提升至全新水平,最终实现了性能的巨大飞跃。
除了硬件层面的协同设计,英伟达还实施了多项全栈优化措施来提升MoE模型的推理性能。例如,NVIDIA Dynamo框架通过将预填充和解码任务分配给不同的GPU,实现了任务的解耦服务,允许解码阶段以大规模专家并行方式运行。

同时,系统还采用了NVFP4格式,这种数据格式在保持计算精度的同时,进一步提升了性能和效率,确保了整个AI计算流程的高效稳定。
该媒体指出,此次GB200 NVL72取得的性能突破,对英伟达及其合作伙伴具有重要意义。这一进展成功克服了MoE模型在扩展时面临的计算瓶颈,从而能够满足日益增长的AI算力需求,并巩固了英伟达在AI服务器市场的领先地位。


相关攻略
4月7日,PCB概念反复活跃,截至发稿,成分股同宇新材(301630 SZ)20CM涨停,宏昌电子(603002 SH)、圣泉集团(605589 SH)等涨停,中英科技(300936 SZ)、铜冠铜
AI 时代最赚钱的公司,可能从来不是做 AI 的那个。作者|张勇毅编辑|靖宇淘金热里最稳赚的人,从来不是淘金的,是卖铲子的。这句老话在 2026 年的科技行业又应验了一次。只不过这次卖铲子的不是英伟
IT之家 4 月 3 日消息,韩国 AI 芯片企业 FuriosaAI 当地时间昨日举行了其首届 RENEGADE 峰会,宣布了有关其高能效数据中心 AI 推理芯片产品线的一系列进展。根据该企业提供
快科技4月7日消息,据博通当地时间(4月6日)向美国证券交易委员会(SEC)提交的监管文件披露,该公司已与谷歌达成一项长期协议,将为谷歌生产未来版本的定制人工智能芯片。根据协议内容,博通将为谷歌未来
上个月,英伟达正式推出 DLSS 5 技术,该技术主打为 PC 游戏带来大幅画面画质升级。因为 DLSS 5 依托 AI 实现功能,大批网友直接跟风开始抨击这项技术,大量不实谣言在短时间内快速传播。
热门专题
热门推荐
加密货币行业翘首以盼的监管里程碑,终于有了实质性进展。美国证券交易委员会(SEC)主席保罗·阿特金斯(Paul Atkins)近日证实,那份允许加密项目在早期获得注册豁免权的“安全港”框架提案,已经正式送抵白宫,进入了最终审查阶段。 在范德堡大学与区块链协会联合举办的数字资产峰会上,阿特金斯透露了这
微策略Strategy报告:第一季录得144 6亿美元浮亏 再斥资约3 3亿美元买进4871枚比特币 市场震荡的威力有多大?看看Strategy的最新季报就明白了。根据其最新向美国证管会(SEC)提交的8-K报告,受市场剧烈波动影响,这家公司所持的比特币在第一季度录得了一笔惊人的数字——144 6亿
稳定币巨头Tether的动向,向来是加密世界的风向标。这不,它向Web3基础设施的版图扩张,又迈出了关键一步。公司执行长Paolo Ardoino在社交平台X上透露,其工程团队正在全力“烹制”一个新项目——去中心化搜索引擎 “Hypersearch”。这个消息一出,立刻引发了行业的广泛猜想。 采用D
基地位于Coinbase旗下以太坊Layer2网络Base的Seamless Protocol,日前正式宣告了服务的终结。这个曾经吸引了超过20万用户的原生DeFi借贷协议,在运营不到三年后,终究没能跑赢时间。它主打的核心产品是Integrated Leverage Markets(ILMs)——一
PAAL代币揭秘:深度解析Web3社区治理的核心钥匙 在去中心化自治组织的浪潮中,谁真正掌握了项目的话语权?PAAL代币提供了一套系统化的答案。它不仅是生态内流转的价值媒介,更是开启链上治理大门的核心凭证。通过持有并质押PAAL代币,用户能够对协议升级、资金分配乃至战略方向等关键事务投出决定性的一票





