5月22日,智谱AI正式发布了一项突破性服务:面向企业客户推出GLM-5.1的高速版本API——“GLM-5.1-highspeed”。根据官方公布的数据,该版本模型输出速度高达每秒400个token,这一性能指标成功刷新了当前全球大模型API服务的速度纪录。

此次发布的核心意义在于,它打破了行业长期存在的一个技术权衡惯例。以往,追求极致响应速度的“高速模型”往往需要在模型能力上做出让步,通常采用参数更少的轻量级架构。然而,GLM-5.1高速版实现了重要突破:它基于智谱自家的旗舰模型GLM-5.1进行深度优化,相当于在保留顶级智能“大脑”全部能力的基础上,为其配备了“超跑级”的推理引擎。这标志着国产大模型首次成功实现了旗舰级性能与极致低延迟的完美统一。
那么,这种高性能与高速度的兼顾是如何达成的?其背后是智谱GLM团队与TileRT团队联合进行的技术攻坚。这并非单一模块的优化,而是一套覆盖推理引擎、任务调度系统到底层硬件基础设施的全栈式系统级优化方案。其效果极为显著:在演示中,面对长文本生成任务,模型能在30秒内输出完整的复杂网页代码;而在需要多智能体协同的“Agent Swarm”场景下,系统可瞬时调度多达50个不同职能的智能体并行处理与响应,用户几乎感知不到任何延迟。
显然,这种量级的提速能力,精准瞄准了对延迟极其敏感的高要求应用场景。例如,在AI编程辅助场景中,开发者需要代码建议能实时呈现;在实时对话交互中,任何卡顿都会严重影响用户体验;此外,在商业智能实时分析、在线语音交互等场景中也至关重要。目前,这项高速API服务已在智谱AI的MaaS平台上,面向部分合作企业开放接入。这或许预示着,下一代AI应用的交互体验,正快速步入一个以“毫秒级响应”为核心竞争力的全新发展阶段。
