首页 游戏 软件 资讯 排行榜 专题
首页
AI
英伟达Blackwell架构将AI推理成本暴降90%,压缩至十分之一

英伟达Blackwell架构将AI推理成本暴降90%,压缩至十分之一

热心网友
20
转载
2026-02-13

IT之家2月13日消息,英伟达近日发布官方博文,宣布在AI推理领域的"token经济学"研究取得突破性进展,其Blackwell架构实现了里程碑式的性能飞跃。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

英伟达在文中指出,通过实施"极致软硬件协同设计"策略,该架构显著优化了硬件处理复杂AI推理任务时的能效表现,有效解决了模型参数膨胀导致的算力成本激增问题。数据显示,与上一代Hopper架构相比,Blackwell平台将单位Token生成成本降低至十分之一。

暴降90%!英伟达Blackwell架构将AI推理成本压缩至十分之一

在行业落地方面,包括Baseten、DeepInfra、Fireworks AI及Together AI在内的多家推理服务商已开始利用Blackwell平台托管开源模型。

IT之家援引博文介绍,英伟达强调通过结合前沿智能开源模型、Blackwell的硬件优势以及各厂商自研的优化推理栈,这些企业成功实现了跨行业的成本缩减。

暴降90%!英伟达Blackwell架构将AI推理成本压缩至十分之一

以专注多智能体工作流的Sentient Labs为例,其成本效率较Hopper时代提升了25%至50%;而游戏领域的Latitude等公司也借此实现了更低的延迟和更可靠的响应性能。

暴降90%!英伟达Blackwell架构将AI推理成本压缩至十分之一

Blackwell架构的高效能核心在于其旗舰级系统GB200 NVL72。该系统采用72颗芯片互联配置,并配备了高达30TB的高速共享内存。这种设计完美契合当前主流的"混合专家"架构需求,能够将Token批次高效拆分并分散到各个GPU上并行处理。

暴降90%!英伟达Blackwell架构将AI推理成本压缩至十分之一

在Blackwell大获成功的同时,英伟达已将目光投向下一代代号为"Vera Rubin"的平台。据悉,Rubin架构计划通过引入针对预填充阶段的CPX等专用机制,进一步推高基础设施的效率天花板。

来源:https://tech.ifeng.com/c/8qi7vnKT1tY
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

特斯拉AI芯片里程碑!马斯克官宣AI5成功流片,双芯性能对标Blackwell
web3.0
特斯拉AI芯片里程碑!马斯克官宣AI5成功流片,双芯性能对标Blackwell

特斯拉AI5芯片流片成功:2027年量产,性能与能效双重革命 全球电动汽车与人工智能巨头特斯拉,在其核心算力自研道路上再下一城。公司首席执行官埃隆·马斯克近日在社交平台X上正式宣布,下一代AI5芯片已完成流片。这一关键里程碑意味着,芯片设计已最终定稿并交付给代工厂,即将进入实体制造阶段。根据规划,A

热心网友
04.16
Alphacool发布RTX PRO 6000 Blackwell分体水冷头,散热效率提升40%
娱乐
Alphacool发布RTX PRO 6000 Blackwell分体水冷头,散热效率提升40%

IT之家 3 月 11 日消息,Alphacool 昨日宣布在其企业级产品线中推出两款 ES 系列紧凑型显卡分体式水冷冷头。其中 1 槽厚度型号面向英伟达 RTX PRO 6000 Blackwel

热心网友
03.11
IREN锁定5万块Blackwell芯片,比特币矿商转型AI云服务
科技数码
IREN锁定5万块Blackwell芯片,比特币矿商转型AI云服务

智通财经APP获悉,澳洲数据中心巨头 IREN(IREN US)于美东时间3 月 5 日与戴尔科技(DELL US)达成一项具有里程碑意义的采购协议。根据协议内容,IREN 将增购超过 50000

热心网友
03.05
英伟达RTX 5090 Ti功耗突破700W,性能提升超10%再曝光
电脑教程
英伟达RTX 5090 Ti功耗突破700W,性能提升超10%再曝光

2月21日消息,就在前不久,有消息称NVIDIA正在测试一款Blackwell架构的旗舰级GPU,定位比RTX 5090更高,预计为RTX 5090 Ti或Titan型号。而根据Moore’s La

热心网友
02.21
英伟达Blackwell架构:每兆瓦吞吐量达Hopper的50倍
科技数码
英伟达Blackwell架构:每兆瓦吞吐量达Hopper的50倍

IT之家 2 月 18 日消息,英伟达于 2 月 16 日发布博文,宣布其 Blackwell Ultra AI 架构(GB300 NVL72)在能效与成本上实现显著突破,通过 DeepSeek-R

热心网友
02.18

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

领主契约死亡恢复机制是什么-领主契约死亡恢复机制介绍
游戏攻略
领主契约死亡恢复机制是什么-领主契约死亡恢复机制介绍

《领主契约》死亡恢复机制全解析:掌握复活技巧,提升游戏生存率 死亡恢复基础规则详解 在《领主契约》中,角色死亡并非冒险的终点,而是一个战术调整的契机。游戏设定了明确的复活机制:角色倒下后,通常会在最近的安全区域——如城镇的复活祭坛——自动重生。复活后,系统将为角色恢复一定比例的生命值与基础状态,确保

热心网友
04.18
美国加强港口封锁,伊朗威胁发动袭击,谈判前景黯淡
web3.0
美国加强港口封锁,伊朗威胁发动袭击,谈判前景黯淡

美国实施港口封锁,伊朗威胁发动空袭,这使得双边会谈的希望变得渺茫。 你猜怎么着?伊朗在4月30日前停止铀浓缩的可能性,目前来到了 39 2%。没错,比起昨天的21%,这个数字确实有显著上升。 市场的反应总是最直接的。封锁的消息一出,伊朗铀浓缩相关的预测市场一度飙升了16个百分点,冲高至46%,随后才

热心网友
04.18
VectorArt AI
AI
VectorArt AI

VectorArt AI是什么 说到把创意想法快速变成清晰的矢量图形,有一款工具正在引起设计师们的注意:VectorArt AI。它由VectorArt团队打造,专为艺术家、设计师以及所有需要高质量矢量图像的创意人士服务。其核心能力非常直接——你只需用文字描述或简单勾勒草图,它就能在短时间内生成高质

热心网友
04.18
全链网:油价会跌回之前的水平,可能更低
web3.0
全链网:油价会跌回之前的水平,可能更低

全链网报道 4月15日消息,国际原油市场传来新动向。美国总统特朗普公开表示,油价不仅会跌回之前的水平,甚至可能更低。这一表态,无疑给近期波动的能源市场投下了一颗石子。 与此同时,另一则关键信息也浮出水面:沙特方面并未对封锁霍尔木兹海峡的潜在可能性表示反对。霍尔木兹海峡作为全球能源运输的咽喉要道,其任

热心网友
04.18
AnotherPixel ArtAI
AI
AnotherPixel ArtAI

AnotherPixel ArtAI是什么 如果说数字艺术的门槛一直让许多人望而却步,那么AnotherPixel ArtAI的出现,或许就是那把降低门槛的钥匙。这个由开发者Xinshuai Lyu打造的在线工具,巧妙地将前沿的人工智能技术与艺术创作融为一体。它的目标很明确:为艺术家、设计师乃至普通

热心网友
04.18