输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
Cache-Augmented Generation(缓存增强生成,简称CAG)是一种通过缓存和复用大模型运行过程中的中间状态(如键值缓存)来降低重复计算、加速推理的技术。它特别适合处理频繁出现的系统提示、固定上下文或长对话场景,可显著减少延迟和算力消耗,被视为检索增强生成(RAG)之外的另一种高效方案。
近期常被查询的 AI 概念。