输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
Context Compression(上下文压缩)是一种针对大语言模型推理优化的技术,通过压缩历史输入或中间缓存(如KV Cache)来减少显存占用和计算量,使得模型能够在不显著损失质量的情况下处理更长上下文。
近期常被查询的 AI 概念。