英伟达GB200对比AMD MI355X:性能领先28倍深度实测
据IT之家1月2日消息,Signal65最新发布了SemiAnalysis InferenceMAX基准测试分析报告。在Deepseek-R1 0528混合专家(MoE)模型的推理场景中,英伟达(NVIDIA)的Blackwell GB200 NVL72机架系统性能表现远超AMD的Instinct MI355X。
IT之家指出,混合专家模型是一种高效的AI模型架构,Deepseek-R1 0528便是其中的典型代表之一,已成为诸多基准测试中常用的模型。

图源:Signal65
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
不同于传统模型每次任务都需动用整个“大脑”,混合专家模型拥有一组“专家”。系统会根据问题类型,只激活最擅长处理该类问题的几位“专家”来协同工作。然而,当模型规模大幅扩展时,节点间巨大的通信延迟和带宽压力会成为瓶颈,形成计算瓶颈。
对此,英伟达采用了名为“极致协同设计”的策略。GB200 NVL72通过紧密互连72颗芯片,并配备高达30TB的高速共享内存,极大地优化了全对全通信效率,有效解决了大规模数据传输的延迟难题。

图源:英伟达
测试数据显示,在类似的集群配置下,英伟达方案中每个GPU的吞吐量高达每秒75个tokens,其性能达到了AMD Instinct MI355X的28倍。
对于超大规模云计算厂商而言,总体拥有成本始终是其考量的核心指标。Signal65结合甲骨文云的定价数据分析指出,GB200 NVL72机架不仅性能强劲,其经济性也同样令人瞩目。其每个token的相对成本仅为AMD方案的十五分之一,同时还提供了更高的交互速率。

图源:Signal65
尽管英伟达在MoE领域占据主导地位,但这并不意味着AMD已全面落败。报告指出,AMD的MI355X凭借高容量HBM3e内存,在处理密集型模型时,依然是一个极具竞争力的选择。
该媒体指出,AMD目前尚未推出新一代机架级解决方案来应对NVL72的挑战。不过,随着未来AMD Helios平台与英伟达Vera Rubin平台的竞争临近,双方在机架级扩展方案上的角逐将日趋激烈。
相关攻略
快科技3月27日消息,据报道,戴尔台湾总经理廖仁祥证实,受到内存缺货涨价影响,戴尔在中国台湾市场销售的PC已涨价。具体涨幅取决于各产品零组件成本,尤其是内存和SSD占该机型成本比重。廖仁祥表示,目前
IT之家 3 月 28 日消息,华硕现已推出 ExpertBook B3 G1 商务笔记本,主要面向企业采购等市场,可选 14 16 英寸版本,至高可选配英特尔酷睿 Ultra 7 vPro 265
IT之家 3 月 28 日消息,华硕现已推出 ExpertBook B3 G1 商务笔记本,主要面向企业采购等市场,可选 14 16 英寸版本,至高可选配英特尔酷睿 Ultra 7 vPro 265
本周,在谷歌新算法的冲击下,全球存储类股票都遭到冲击,这引发了投资者们的集体焦虑。但瑞穗科技专家乔丹·克莱因(Jordan Klein)认为,当前内存股的回调更像是一个“上车机会”,而不是一个股价转
IT之家 3 月 27 日消息,蓝狐 BLUEFOX 手机最新微博今日发布公告,宣布蓝狐 NX1 迷你手机将进行价格调整。尊敬的用户: 感谢您一直以来对 BLUEFOX 蓝狐的选择与信任。 受全球半
热门专题
热门推荐
Numbers表格中多行文本显示异常的五种解决方法:一、启用自动换行;二、用Option+Return插入手动换行符;三、公式中用CHAR(10)嵌入换行;四、双击后粘贴保留换行的
在制作ppt演示文稿时,为了增添视觉效果和吸引力,常常会添加背景视频。而设置背景视频打开时自动播放,能让演示一开始就抓住观众的注意力。下面就来详细介绍如何在视频工具栏中进行这一设置
在三角洲行动中,了解哈夫克增援点的刷新位置对于玩家在战斗中获取优势至关重要。地图分布规律哈夫克增援点在地图上的分布有一定规律。通常会出现在资源丰富、战略意义重要的区域。比如连接不同
一、联机前提条件确保你的手机系统符合游戏要求,且网络连接稳定流畅,推荐使用wi-fi网络以避免联机过程中的卡顿和延迟。同时,游戏需更新到最新版本,以保证联机功能的正常运行。二、创建
追完《沧元图》前传《东宁府的夏天》第三集,情绪还没缓过来——前半段哭到鼻子发酸,后半段又姨母笑到嘴角僵硬,这一集的情绪起伏,真的太戳人了。上一集里,孟川拼尽全力陨灭了真龙太子的真身,本以为危机彻底解





