游乐游手机版
首页/科技数码/文章详情

智谱AI发布Infra新成果 不加GPU算力提升15%

时间:2026-05-21 13:39
智谱联合驭驯网络与清华大学,在GLM-5 1线上生产集群中规模化落地新一代网络架构ZCube。该架构在不增加GPU算力的前提下,节省了33%交换机与光模块成本,同时将GPU平均推理吞吐提升15%,并显著降低首字延迟。这意味着同等硬件投入下,大模型API每秒能多响应15%的请求,提升了并发上限与峰值流量下的稳定性。

5月21日,智谱AI联合驭驯网络与清华大学宣布,其新一代高性能网络架构ZCube已在GLM-5.1线上生产集群中实现规模化部署与应用。

智谱发布Infra新成果:不加一块GPU,算力多出15%

在GLM-5.1 coding场景的实际线上测试中,在保持原有GPU算力、软件栈及上层应用完全不变的前提下,ZCube架构显著优化了基础设施成本与性能。具体表现为:成功节省了33%的交换机与光模块采购成本,同时将GPU的平均推理吞吐量提升了15%,并将首Token延迟(TTFT)的P99分位值降低了40.6%。

这一技术突破意味着,在不增加额外GPU硬件投入的情况下,智谱GLM大模型服务的整体算力效率获得了实质性提升,每秒能够处理更多API请求。对于依赖大模型API的平台而言,此举直接转化为更高的系统并发处理能力,并确保在流量高峰期间为用户提供更稳定、更迅捷的响应体验。

来源:https://www.163.com/dy/article/KTETV9510514R9P4.html
上一篇联想天禧AI 40发布携手生态伙伴共建万亿Token大模型 下一篇第二期AI科创提效培训沙龙 科创服务直通车活动报名开启
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。