游乐游手机版
首页/科技数码/文章详情

AMD与Cerebras联手发力低时延AI推理

时间:2026-07-24 19:49
AMD与Cerebras联合推出AI推理解决方案,采用分工协作架构:AMDHelios处理提示词与大上下文,Cerebras晶圆级引擎专攻超低时延token生成,每瓦每秒token处理量提升5倍,其集成数十万核心与SRAM的设计大幅减少外部网络瓶颈。

在 Advancing AI 2026 大会上,AMD 与 Cerebras 正式宣布达成合作,共同打造面向 AI 推理场景的联合解决方案,专注于满足超低延迟的苛刻需求。这一合作并非小规模尝试,而是直接对标英伟达与 Groq 的竞争组合。


根据最新公布的新闻稿,该方案的核心设计理念在于“分工协作”。AMD 的 Helios 机架级解决方案作为高性能、可扩展的吞吐引擎,主要负责处理提示词(Prompt)及大上下文窗口,即先对长段输入进行高效解析与理解。而 Cerebras 的晶圆级引擎(Wafer-Scale Engine)则专注于对内存带宽要求极高的 Token 生成与解码环节,突出其超低时延特性。


两个计算引擎协同工作,官方预期可实现每瓦每秒处理的 Token 数量提升 5 倍。这一数字在当前 AI 推理效率竞争日益激烈的背景下,具有重要分量。



此外,Cerebras 的独门技术——Wafer-Scale Engine,本质上是一块巨大的互连硅片,其上无缝集成了数十万个计算核心以及数十 GB 的 SRAM。这种设计最大的优势在于:大幅降低外部网络瓶颈对数据传输的影响——数据在芯片内部即可完成流转,无需频繁通过外部接口,从而显著降低延迟。

来源:https://www.163.com/dy/article/L2K00SJ40511B8LM.html
上一篇超半数企业付赎金后遭遇更严重损失 下一篇中国数学家首次获菲尔兹奖的意义
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
罗福莉入选新一届35岁以下科技创新35人中国区名单
科技数码 · 2026-07-25

罗福莉入选新一届35岁以下科技创新35人中国区名单

2025年《麻省理工科技评论》“35岁以下科技创新35人”中国区名单在上海发布,罗福莉、姚顺宇等入选。罗福莉推动大模型从“能聊天”走向“能干活”,探索智能体演进;姚顺宇建立非厄米拓扑能带理论。本届AI+机器人领域入选者占四成。

美国科技巨头为AI投资年内裁员近14万人
科技数码 · 2026-07-25

美国科技巨头为AI投资年内裁员近14万人

美国科技巨头年内裁员近14万人,同时计划在AI基础设施上投入7250亿美元。裁员主要目的为AI投资腾出资金并纠正疫情期间过度招聘,市场对AI相关裁员反应负面,而AI初创公司正加速扩招,形成对比。

位AI Infra高管复盘WAIC:暴力美学触顶后求变?
科技数码 · 2026-07-25

位AI Infra高管复盘WAIC:暴力美学触顶后求变?

WAIC2026上,AIInfra行业关注点从算力规模转向推理效率与Token产出。Agent驱动Token消耗激增,AI工厂与Token工厂成为关键载体。效率竞争取代规模竞赛,玩家分层加速,具备全栈优化能力的头部厂商优势凸显。

显卡厂商封仓引发涨价 玩家面临高价购买
科技数码 · 2026-07-25

显卡厂商封仓引发涨价 玩家面临高价购买

显卡市场,恐怕又要迎来一波涨价潮了。过去两年,不少玩家咬咬牙买下的高价显卡,如今回头看,竟然成了抄底。但问题在于,硬件市场每一次涨价,最终买单的永远还是玩家。 业内消息显示,GDDR7显存价格出现了明显上涨,单颗2GB显存价格上涨接近20美元。按8GB显存规格计算,一张显卡的显存成本或将增加约542

OpenAI加入签署AI开源模型公开信,组织达35家
科技数码 · 2026-07-25

OpenAI加入签署AI开源模型公开信,组织达35家

7月25日,微软、英伟达等25家美国公司联署公开信支持开放权重AI模型,随后签署方增至35家,新增包括OpenAI等。开放权重模型可下载、修改、运行,能扩大创新、强化竞争并降低风险,避免AI收益集中于少数巨头。