游乐游手机版
首页/科技数码/文章详情

英伟达Vera Rubin AI平台发布:单Token成本降至1/10

时间:2026-03-17 13:04
来源:环球网【环球网科技综合报道】3月17日消息,据Investing报道,在今年的GTC 大会上,英伟达正式发布了Vera Rubin AI 平台,专为智能体 AI 发展打造。这一平台被视作英伟达

来源:环球网

【环球网科技综合报道】3月17日消息,据Investing报道,在今年的GTC大会上,英伟达正式发布了Vera Rubin AI平台,专为智能体AI发展量身打造。该平台被视为英伟达在AI基础设施领域的一次重大飞跃,也标志着其开启了史上最大规模的AI基建布局,全面覆盖从大规模预训练到实时智能体推理的AI全生命周期,为智能体AI技术发展提供强大的算力与技术支撑。


英伟达创始人兼首席执行官黄仁勋表示,Vera Rubin AI平台在核心算力、推理加速、数据存储等多个维度实现技术突破,从底层基础设施层面优化AI全流程运算效率,助力智能体AI的规模化落地。

在核心算力层面,平台搭载的新一代NVL72机架实现效率突破性提升,通过NVLink 6完成72块Rubin GPU与36块Vera CPU的连接。相较于上一代Blackwell平台,该系统完成混合专家大模型训练仅需四分之一的GPU,每瓦推理吞吐量提升10倍,成功将单Token成本降至原来的十分之一,大幅降低了AI模型训练与推理的成本。同时,专为验证AI模型结果设计的Vera CPU机架集成256块液冷CPU,运行效率达到传统CPU的两倍,运算速度提升50%,进一步提升AI模型验证环节的效率。

针对智能体系统低延迟、长上下文的核心需求,英伟达同步推出Groq 3 LPX推理加速机架。该系统配备256个LPU处理器,与Vera Rubin平台结合后,每兆瓦推理吞吐量最高可提升35倍,有效解决智能体AI运行过程中的延迟问题,适配长上下文的运算需求。

数据存储环节的技术升级同样亮眼,全新BlueField-4 STX机架构建起AI原生存储基础架构。依托全新的DOCA Memos框架,该系统能高效处理大型语言模型生成的海量键值缓存数据,在显著降低能耗的同时,将推理吞吐量最高提升5倍,让AI多轮交互的响应速度大幅加快,更好地匹配智能体AI的实际应用场景。(纯钧)

来源:https://www.163.com/dy/article/KO7IINQG0514R9OJ.html
上一篇国电高新专利:提升卫星设备可靠性的关键技术方案 下一篇OpenAI编程战略调整:聚焦企业核心业务的高效实践
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。