智谱数亿元收购中科加禾,强化底层工程与国产算力适配能力
近日,AI大模型企业智谱完成对AI异构算力软件基础设施公司中科加禾(XCore Sigma)的收购,交易金额达数亿元。此举旨在补齐智谱在模型底层工程能力上的短板,进一步提升国产算力适配与推理优化能力。
收购标的:中科加禾聚焦编译器技术,团队源自中科院
中科加禾是一家专注于编译技术的AI异构算力软件基础设施公司,技术源头来自中科院计算所编译实验室。其核心团队曾参与龙芯、神威、寒武纪、华&为昇腾等国产芯片的编译器研发,具备从虚拟指令集设计、算子生成到优化部署的全链路能力,目标是为国产AI大模型提供统一软件底座。
收购背景:模型调用规模激增,基础设施压力显现
在此次收购之前,智谱已投资基流科技、无问芯穹、硅基流动等AI Infra企业,覆盖算力集群、推理优化等环节。但随着模型调用规模快速增长,基础设施压力逐渐显现。今年3月GLM-5发布后,Coding Agent日调用量达到数亿次,部分用户反馈复杂任务中间出现输出异常。智谱复盘发现,高并发场景下推理架构和KV Cache管理存在工程挑战。
收购价值:提升多芯片适配效率,降低推理成本
此次收购有望提升智谱在多芯片环境下的适配效率。中科加禾的编译器技术可通过中间层连接不同国产芯片生态,提高算力利用率。此外,其SigInfer推理引擎此前宣称可降低推理时延、提升吞吐效率,若能落地生产环境,将进一步降低模型服务成本。
战略意义:底层技术成AI竞争关键方向
随着AI竞争从模型能力扩展至算力、软件基础设施和生态建设,编译器等底层技术正成为大模型企业构建长期竞争力的重要方向。智谱通过收购中科加禾,进一步强化了自身在国产算力适配和推理优化领域的技术储备。
小提示:编译器技术是连接硬件与软件的桥梁,尤其在国产芯片生态多样化的背景下,统一的软件底座可大幅降低模型迁移和调优成本。
常见问题
- Q:中科加禾的“虚拟指令集设计”是什么?
A:虚拟指令集是一种介于高级编程语言和物理芯片指令之间的中间表示,可屏蔽不同芯片的底层差异,使同一套AI模型代码能在多种国产芯片上高效运行。 - Q:KV Cache管理为何重要?
A:KV Cache是推理过程中的关键缓存机制,管理不当会导致内存溢出或推理延迟飙升。在高并发场景下,优化KV Cache可显著提升系统稳定性。 - Q:SigInfer推理引擎如何降低推理时延?
A:SigInfer通过算子融合、内存复用和动态调度等技术,减少数据搬运和指令执行开销,从而提升吞吐量并降低单次推理的响应时间。
总体来看,此次收购是智谱在AI基础设施领域的重要布局,将为其在国产算力生态中的竞争力提供有力支撑。
