首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
英伟达Vera Rubin AI平台发布:单Token成本降至1/10

英伟达Vera Rubin AI平台发布:单Token成本降至1/10

热心网友
93
转载
2026-03-17

来源:环球网

【环球网科技综合报道】3月17日消息,据Investing报道,在今年的GTC大会上,英伟达正式发布了Vera Rubin AI平台,专为智能体AI发展量身打造。该平台被视为英伟达在AI基础设施领域的一次重大飞跃,也标志着其开启了史上最大规模的AI基建布局,全面覆盖从大规模预训练到实时智能体推理的AI全生命周期,为智能体AI技术发展提供强大的算力与技术支撑。


英伟达创始人兼首席执行官黄仁勋表示,Vera Rubin AI平台在核心算力、推理加速、数据存储等多个维度实现技术突破,从底层基础设施层面优化AI全流程运算效率,助力智能体AI的规模化落地。

在核心算力层面,平台搭载的新一代NVL72机架实现效率突破性提升,通过NVLink 6完成72块Rubin GPU与36块Vera CPU的连接。相较于上一代Blackwell平台,该系统完成混合专家大模型训练仅需四分之一的GPU,每瓦推理吞吐量提升10倍,成功将单Token成本降至原来的十分之一,大幅降低了AI模型训练与推理的成本。同时,专为验证AI模型结果设计的Vera CPU机架集成256块液冷CPU,运行效率达到传统CPU的两倍,运算速度提升50%,进一步提升AI模型验证环节的效率。

针对智能体系统低延迟、长上下文的核心需求,英伟达同步推出Groq 3 LPX推理加速机架。该系统配备256个LPU处理器,与Vera Rubin平台结合后,每兆瓦推理吞吐量最高可提升35倍,有效解决智能体AI运行过程中的延迟问题,适配长上下文的运算需求。

数据存储环节的技术升级同样亮眼,全新BlueField-4 STX机架构建起AI原生存储基础架构。依托全新的DOCA Memos框架,该系统能高效处理大型语言模型生成的海量键值缓存数据,在显著降低能耗的同时,将推理吞吐量最高提升5倍,让AI多轮交互的响应速度大幅加快,更好地匹配智能体AI的实际应用场景。(纯钧)

来源:https://www.163.com/dy/article/KO7IINQG0514R9OJ.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

英伟达洽谈领投印度AI初创公司Simplismart
科技数码
英伟达洽谈领投印度AI初创公司Simplismart

英伟达正洽谈领投印度AI初创公司Simplismart,计划投资约2000万美元,投后估值预计达1亿美元。该公司专注于生成式AI和MLOps,若交易达成,其估值将在数月内从2500万美元跃升近四倍,增长迅猛。英伟达今年在AI领域投资已超400亿美元,持续扩张其生态布局。

热心网友
05.18
英伟达坚持HBM路线图 暂无计划转向HBM
业界动态
英伟达坚持HBM路线图 暂无计划转向HBM

今年二月,SK海力士与闪迪联合举办了一场规格标准化联盟启动会,正式向业界推出了面向AI推理时代的下一代存储器解决方案——HBF(高带宽闪存),并公布了其全球标准化战略。这一举措,无疑为当前火热的人工智能硬件领域注入了新的活力与可能性。 然而,尽管行业普遍看好HBF的技术潜力,各大厂商的跟进态度也显得

热心网友
05.18
英伟达押注LPU或存变数 3D-CIM技术才是AI芯片终极方向
业界动态
英伟达押注LPU或存变数 3D-CIM技术才是AI芯片终极方向

这两年,消费电子领域要是没带上“AI”两个字,发布会都不好意思开。根据IDC最新的一季度数据,全球AI手机的出货量占比已经突破45%,同比翻了两倍还不止;AI PC到年底的渗透率更是要冲击60%。然而,剥开厂商们华丽的营销话术,真实的用户体验堪称冰火两重天。 你以为手机上的“端侧AI”是真在本地运行

热心网友
05.18
谷歌挑战英伟达霸主地位:全球股王宝座或将迎来新主
科技数码
谷歌挑战英伟达霸主地位:全球股王宝座或将迎来新主

过去一年,科技行业的权力格局正在悄然重塑。曾经在人工智能浪潮中略显被动的谷歌母公司Alphabet,如今已强势转身,成为几乎在AI技术各个层面都握有重要筹码的巨头。而现在,它正将目光投向一个更具象征意义的王座——超越芯片霸主英伟达,问鼎全球市值第一的宝座。 行情数据揭示了这场竞赛的激烈程度。截至上周

热心网友
05.17
英伟达如何通过投资构建AI生态帝国
科技数码
英伟达如何通过投资构建AI生态帝国

芯片巨头英伟达正从一家纯粹的芯片制造商,全面转型为AI生态的深度投资者。自2026年以来,其公开承诺的股权投资金额已突破400亿美元,覆盖了从基础设施到模型应用的AI全产业链。然而,这一激进的资本扩张策略也引发了市场的广泛讨论,有观点质疑,英伟达是否正在用自身的资产负债表,支撑起整个AI产业的非自然

热心网友
05.17

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

比特币巨量流出CEX 24小时超5740枚 市场抄底信号显现
web3.0
比特币巨量流出CEX 24小时超5740枚 市场抄底信号显现

过去24小时全球主要交易所比特币流向分化明显,整体净流出5740 82枚。其中CoinbasePro流出约5457枚,币安、Gemini分别流出1023枚和504枚;而OKX则逆势录得约530枚净流入。

热心网友
05.18
魔兽世界恶魔的气息任务全流程攻略与完成步骤详解
游戏攻略
魔兽世界恶魔的气息任务全流程攻略与完成步骤详解

卡拉赞的“恶魔的气息”任务需向大法师奥图鲁斯领取,随后击败玛克扎尔王子并回提交还。任务奖励包括金币、经验与声望。

热心网友
05.18
魔力宝贝狗洞位置详解与前往路线指南
游戏攻略
魔力宝贝狗洞位置详解与前往路线指南

《魔力宝贝》中“狗洞”即“奇怪的洞窟”,位于亚留特村西南方向黄色传送石处,是12至20级玩家高效练级地点。前往路线为:从法兰城至伊尔村,向北进入哈巴鲁东边洞窟击败“熊男”,穿越后抵达亚留特村,再向西南探索即可找到入口。洞内怪物等级较高,建议携带“风地”属性水晶提升生存能力。

热心网友
05.18
贾跃亭获7000万美元融资 将推进多年造车计划
业界动态
贾跃亭获7000万美元融资 将推进多年造车计划

时隔七年,贾跃亭以CEO身份重掌法拉第未来(FF)帅印,并成功为公司注入了关键的发展动力。近期,FF累计完成了高达7000万美元的机构融资。这笔至关重要的资金,被贾跃亭定位为驱动公司机器人业务实现第一阶段战略目标的“核心粮草”。 随着资金与团队就位,贾跃亭的信心显著增强。他公开立下目标:将用两年时间

热心网友
05.18
原神修复水道任务攻略法沙利亚的狂想曲通关详解
游戏攻略
原神修复水道任务攻略法沙利亚的狂想曲通关详解

任务需修复两条水道。首先跟随指引找到NPC并进入幻境,使用号角对准壁画激活飞鸟幻影,触碰并跟随其路径即可修复第一条水道。第二条水道位于洞xue内,跟随萤火虫找到入口,重复使用号角并借助弹跳水母到达高处,跟随飞鸟完成修复。完成后可获得奖励并推进剧情。

热心网友
05.18