英伟达Blackwell架构将AI推理成本暴降90%,压缩至十分之一
IT之家2月13日消息,英伟达近日发布官方博文,宣布在AI推理领域的"token经济学"研究取得突破性进展,其Blackwell架构实现了里程碑式的性能飞跃。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
英伟达在文中指出,通过实施"极致软硬件协同设计"策略,该架构显著优化了硬件处理复杂AI推理任务时的能效表现,有效解决了模型参数膨胀导致的算力成本激增问题。数据显示,与上一代Hopper架构相比,Blackwell平台将单位Token生成成本降低至十分之一。

在行业落地方面,包括Baseten、DeepInfra、Fireworks AI及Together AI在内的多家推理服务商已开始利用Blackwell平台托管开源模型。
IT之家援引博文介绍,英伟达强调通过结合前沿智能开源模型、Blackwell的硬件优势以及各厂商自研的优化推理栈,这些企业成功实现了跨行业的成本缩减。

以专注多智能体工作流的Sentient Labs为例,其成本效率较Hopper时代提升了25%至50%;而游戏领域的Latitude等公司也借此实现了更低的延迟和更可靠的响应性能。

Blackwell架构的高效能核心在于其旗舰级系统GB200 NVL72。该系统采用72颗芯片互联配置,并配备了高达30TB的高速共享内存。这种设计完美契合当前主流的"混合专家"架构需求,能够将Token批次高效拆分并分散到各个GPU上并行处理。

在Blackwell大获成功的同时,英伟达已将目光投向下一代代号为"Vera Rubin"的平台。据悉,Rubin架构计划通过引入针对预填充阶段的CPX等专用机制,进一步推高基础设施的效率天花板。
相关攻略
特斯拉AI5芯片流片成功:2027年量产,性能与能效双重革命 全球电动汽车与人工智能巨头特斯拉,在其核心算力自研道路上再下一城。公司首席执行官埃隆·马斯克近日在社交平台X上正式宣布,下一代AI5芯片已完成流片。这一关键里程碑意味着,芯片设计已最终定稿并交付给代工厂,即将进入实体制造阶段。根据规划,A
IT之家 3 月 11 日消息,Alphacool 昨日宣布在其企业级产品线中推出两款 ES 系列紧凑型显卡分体式水冷冷头。其中 1 槽厚度型号面向英伟达 RTX PRO 6000 Blackwel
智通财经APP获悉,澳洲数据中心巨头 IREN(IREN US)于美东时间3 月 5 日与戴尔科技(DELL US)达成一项具有里程碑意义的采购协议。根据协议内容,IREN 将增购超过 50000
2月21日消息,就在前不久,有消息称NVIDIA正在测试一款Blackwell架构的旗舰级GPU,定位比RTX 5090更高,预计为RTX 5090 Ti或Titan型号。而根据Moore’s La
IT之家 2 月 18 日消息,英伟达于 2 月 16 日发布博文,宣布其 Blackwell Ultra AI 架构(GB300 NVL72)在能效与成本上实现显著突破,通过 DeepSeek-R
热门专题
热门推荐
《领主契约》死亡恢复机制全解析:掌握复活技巧,提升游戏生存率 死亡恢复基础规则详解 在《领主契约》中,角色死亡并非冒险的终点,而是一个战术调整的契机。游戏设定了明确的复活机制:角色倒下后,通常会在最近的安全区域——如城镇的复活祭坛——自动重生。复活后,系统将为角色恢复一定比例的生命值与基础状态,确保
美国实施港口封锁,伊朗威胁发动空袭,这使得双边会谈的希望变得渺茫。 你猜怎么着?伊朗在4月30日前停止铀浓缩的可能性,目前来到了 39 2%。没错,比起昨天的21%,这个数字确实有显著上升。 市场的反应总是最直接的。封锁的消息一出,伊朗铀浓缩相关的预测市场一度飙升了16个百分点,冲高至46%,随后才
VectorArt AI是什么 说到把创意想法快速变成清晰的矢量图形,有一款工具正在引起设计师们的注意:VectorArt AI。它由VectorArt团队打造,专为艺术家、设计师以及所有需要高质量矢量图像的创意人士服务。其核心能力非常直接——你只需用文字描述或简单勾勒草图,它就能在短时间内生成高质
全链网报道 4月15日消息,国际原油市场传来新动向。美国总统特朗普公开表示,油价不仅会跌回之前的水平,甚至可能更低。这一表态,无疑给近期波动的能源市场投下了一颗石子。 与此同时,另一则关键信息也浮出水面:沙特方面并未对封锁霍尔木兹海峡的潜在可能性表示反对。霍尔木兹海峡作为全球能源运输的咽喉要道,其任
AnotherPixel ArtAI是什么 如果说数字艺术的门槛一直让许多人望而却步,那么AnotherPixel ArtAI的出现,或许就是那把降低门槛的钥匙。这个由开发者Xinshuai Lyu打造的在线工具,巧妙地将前沿的人工智能技术与艺术创作融为一体。它的目标很明确:为艺术家、设计师乃至普通





