游乐游手机版
首页/科技数码/文章详情

AMD与Cerebras联手发力低时延AI推理

时间:2026-07-24 19:49
AMD与Cerebras联合推出AI推理解决方案,采用分工协作架构:AMDHelios处理提示词与大上下文,Cerebras晶圆级引擎专攻超低时延token生成,每瓦每秒token处理量提升5倍,其集成数十万核心与SRAM的设计大幅减少外部网络瓶颈。

在 Advancing AI 2026 大会上,AMD 与 Cerebras 正式宣布达成合作,共同打造面向 AI 推理场景的联合解决方案,专注于满足超低延迟的苛刻需求。这一合作并非小规模尝试,而是直接对标英伟达与 Groq 的竞争组合。


根据最新公布的新闻稿,该方案的核心设计理念在于“分工协作”。AMD 的 Helios 机架级解决方案作为高性能、可扩展的吞吐引擎,主要负责处理提示词(Prompt)及大上下文窗口,即先对长段输入进行高效解析与理解。而 Cerebras 的晶圆级引擎(Wafer-Scale Engine)则专注于对内存带宽要求极高的 Token 生成与解码环节,突出其超低时延特性。


两个计算引擎协同工作,官方预期可实现每瓦每秒处理的 Token 数量提升 5 倍。这一数字在当前 AI 推理效率竞争日益激烈的背景下,具有重要分量。



此外,Cerebras 的独门技术——Wafer-Scale Engine,本质上是一块巨大的互连硅片,其上无缝集成了数十万个计算核心以及数十 GB 的 SRAM。这种设计最大的优势在于:大幅降低外部网络瓶颈对数据传输的影响——数据在芯片内部即可完成流转,无需频繁通过外部接口,从而显著降低延迟。

来源:https://www.163.com/dy/article/L2K00SJ40511B8LM.html
上一篇超半数企业付赎金后遭遇更严重损失 下一篇中国数学家首次获菲尔兹奖的意义
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
2026中国航空产业大会10月底南昌启幕:首次与航博会同期举办,聚焦低空经济新路径
科技数码 · 2026-08-31

2026中国航空产业大会10月底南昌启幕:首次与航博会同期举办,聚焦低空经济新路径

2026中国航空产业大会与南昌航空产业博览会将于10月31日至11月4日在南昌国际博览城首次同期举办。大会聚焦低空经济,设置主旨报告、行业专家报告及低空产业洽谈会等主题活动,旨在探讨航空产业新路径,推动低空物流、城市巡检等新业态集聚,打造中部领先、全国知名的航空产业交流高地。

联想来酷Air 16酷睿5 315版开售:国补后3739元,16英寸轻薄本选购指南
科技数码 · 2026-08-28

联想来酷Air 16酷睿5 315版开售:国补后3739元,16英寸轻薄本选购指南

联想来酷Air 16酷睿5 315版于8月27日正式开售,搭载6核处理器与12GB内存,配备16英寸16:10屏幕。叠加国家补贴后预估到手价仅3739 15元,主打长续航与静音办公。本文详细解析其硬件配置、接口布局及购买建议,助您快速决策。

牛来AirPods保护套海外走红:萌趣硅胶设计引发关注
科技数码 · 2026-08-28

牛来AirPods保护套海外走红:萌趣硅胶设计引发关注

一款名为“牛来”的AirPods硅胶保护套在日本市场引发关注,售价约1726日元。其独特的搞怪萌趣造型、兼容多代机型的硅胶材质以及专属挂饰设计,使其在社交平台上迅速走红,成为近期备受瞩目的国产原创数码周边产品。

行李箱选购全攻略:材质、轮子与尺寸避坑指南
科技数码 · 2026-08-28

行李箱选购全攻略:材质、轮子与尺寸避坑指南

选购行李箱时,材质、轮子和尺寸是核心决策点。PP材质抗冲击且轻便,适合频繁托运;万向轮决定推行顺滑度;尺寸需匹配航空限重。本文拆解关键参数,结合具体产品案例,助您选出耐用且实用的行李箱。

《湮灭之潮》成都试玩会:技嘉RTX 5080风魔显卡实测体验
科技数码 · 2026-08-28

《湮灭之潮》成都试玩会:技嘉RTX 5080风魔显卡实测体验

2026年8月《湮灭之潮》成都试玩会圆满举行,千名玩家现场体验西方奇幻大作。文章重点解析技嘉RTX 5080风魔显卡在虚幻5引擎下的表现,涵盖Blackwell架构、DLSS 4 5技术及16GB GDDR7显存对高画质流畅运行的支撑作用。