5月28日,优刻得(688158.SH)与华中科技大学正式宣布达成一项产学研合作。本次合作将重点聚焦Agent应用场景下的大模型推理性能瓶颈问题。具体来看,双方将围绕KV Cache卸载与复用技术展开联合研究,旨在共同探索面向下一代AI推理基础设施的系统级创新解决方案。
此次合作的核心看点在于,优刻得将自身在云基础设施、分布式存储、异构计算等领域的技术积累,与高校科研团队的研究能力深度结合。整体研究将从两个关键方向同步推进:一是“单请求长上下文推理”,二是“跨请求前缀复用”。围绕这两个研究方向,双方将联合构建多层级KV Cache卸载体系,为Agent推理服务提供更高效、更灵活、可扩展性更强的底层支撑。简而言之,此次合作瞄准的是大模型推理效率与扩展能力的实质性提升,推动解决当前大模型在产业落地和实际应用过程中面临的性能瓶颈。
