游乐游手机版
首页/电脑教程/文章详情

AMD携手Cerebras推低延迟AI推理 吞吐能效提升5倍

时间:2026-08-08 06:16
AMD与Cerebras合作,整合Helios机架与晶圆级引擎,针对超低延迟AI推理场景。通过分工处理提示词与Token生成,每瓦每秒Token吞吐量提升5倍,效率显著提高,适用于实时AI应用。
7月24日,据科技媒体Wccftech报道——在Advancing AI 2026活动上,AMD正式宣布与Cerebras公司携手,共同打造AI推理解决方案。

AMD 携手 Cerebras 押注低时延 AI 推理:每瓦每秒 Token 吞吐提升 5 倍

根据官方新闻稿,此次合作聚焦于超低延迟AI推理场景,双方提出的方案是将AMD的Helios机架级解决方案与Cerebras的晶圆级引擎整合在一起,直接对标英伟达与Groq的联合布局。 那么,双方如何分工?从技术细节来看,Helios机架作为高性能、可扩展的吞吐引擎,主要负责提示词处理与大型上下文窗口。而Cerebras的Wafer-Scale Engine则承担对内存带宽要求更高的Token生成与解码任务,其核心亮点在于超低延迟表现。 两个计算引擎协同工作,预计可将每瓦每秒的Token数量提升高达5倍。这才是真正的核心价值——效率大幅提升,而功耗反而降低。附上官方截图,供直观参考。

Cerebras官方介绍,其Wafer-Scale Engine在单块互连硅片上集成了数十万个计算核心与数十GB的SRAM。这种设计直接消除了外部网络瓶颈导致的数据传输延迟,效率优势不言而喻。
来源:https://www.ithome.com/0/981/112.htm
上一篇Excel多个表格合并与数据排序的详细步骤方法 下一篇联想拯救者原装64GB DDR5 5600内存套条6549元开售
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
小米AI Cube工程版详解:三芯协同架构与150W本地大模型部署
电脑教程 · 2026-08-28

小米AI Cube工程版详解:三芯协同架构与150W本地大模型部署

小米发布AI Cube工程版迷你主机,采用玄戒O3、O100及D100三颗自研芯片协同架构。该设备持续性能释放达150W,支持120B参数大模型本地部署。文章解析其异构计算原理、散热设计及技术验证现状。

致态Ti600s 2TB SSD评测:Xtacking 4.0架构下的性能与寿命突破
电脑教程 · 2026-08-28

致态Ti600s 2TB SSD评测:Xtacking 4.0架构下的性能与寿命突破

本文深入评测致态Ti600s 2TB SSD,基于长江存储Xtacking 4 0架构,顺序读取达7400MB s,4K随机读写性能媲美带缓存TLC。其最大亮点在于写入寿命较上代提升50%,2TB型号高达900TBW,远超普通QLC竞品。

鲁大师怎么看轻薄本是否过热:三步判断法
电脑教程 · 2026-08-27

鲁大师怎么看轻薄本是否过热:三步判断法

轻薄本接电发热、掌托发烫时,如何判断是否真的过热?本文教你利用鲁大师进行三步排查:首先确认系统高温提示,其次对比温度与风扇转速,最后通过短压测试观察温度曲线。通过这三步,快速识别瞬时高温还是持续过热,并提供相应的解决建议。

WPS PDF查看缩略图:3步调出页面预览快速定位
电脑教程 · 2026-08-27

WPS PDF查看缩略图:3步调出页面预览快速定位

在WPS Office中查看PDF文档缩略图非常简单。只需点击顶部菜单栏的“视图”,打开“导航窗格”,并在左侧边栏切换到“页面”视图即可。此方法可快速预览所有页面,并通过点击缩略图实现精准跳转,大幅提升长文档的阅读与查找效率。

Excel数据透视表选项卡不显示?3步找回分析与设计功能
电脑教程 · 2026-08-27

Excel数据透视表选项卡不显示?3步找回分析与设计功能

在Excel中操作数据透视表时,若顶部未显示“数据透视表分析”和“设计”选项卡,通常是因为未正确选中透视表区域。只需点击透视表内的任意单元格,这两个专属选项卡便会自动出现在功能区。本文详细讲解如何快速找回并正确使用这两个核心功能入口。