游乐游手机版

AI热词解释列表页

首页/AI热词解释

AI 热词解释

输入一个热词,快速查看术语含义、常见场景和相关概念。

工具入口

热词列表

集中展示常见热词解释,方便按概念和场景继续浏览。

热词解释 · 2026-06-02

模型缓存:大模型推理的“加速器”是什么?

模型缓存是大模型推理过程中存储中间计算结果(特别是注意力机制的Key-Value对)的技术,让后续生成无需重复计算,大幅降低延迟和算力消耗,是支撑实时交互和长文本场景的关键优化手段。

热门热词

近期常被查询的 AI 概念。