输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
Context Cache(上下文缓存)是一种用于大语言模型推理加速的技术,通过缓存重复使用的上下文信息(如系统提示或长文档前缀),减少重复计算,显著降低响应延迟和计算成本。
近期常被查询的 AI 概念。