本次查询：响应缓存
中文解释：响应缓存
常见场景：广泛应用于Web API接口加速 / AI模型推理结果复用 / 数据库查询优化 / CDN边缘节点缓存 / 实时流处理等需要高频重复请求或计算的场景。
一句话解释
响应缓存就是把服务器对某个请求的“答案”临时存下来，下次遇到一模一样的问题时，直接抄答案发给用户，而不用再从头算一遍。
为什么会被关注
随着AI应用和实时服务爆发，用户请求量指数级增长，每次独立计算会导致服务器崩溃或响应超时。响应缓存能大幅降低重复计算带来的资源消耗，提升用户体验。
在成本敏感的生产环境中，缓存可以减少数据库查询、GPU推理等昂贵操作的频次。尤其对于大模型API，单次推理成本高，缓存常见prompt的响应可直接节省90%以上算力开支。
核心逻辑
响应缓存依赖一个唯一键来标识请求（例如URL参数、用户ID+输入内容组合）。系统收到请求后先查询缓存字典，如果命中（key存在且未过期），直接返回存储的响应；否则执行完整业务逻辑，并将结果按key写入缓存并设置生存时间（TTL）。
缓存策略包含被动过期（TTL到期自动删除）和主动失效（当数据源更新时触发清除相关缓存）。为了防止缓存击穿或雪崩，常配合互斥锁、缓存预热、多级缓存（本地+分布式）等机制使用。
常见场景
Web API加速：如天气预报API，同一城市五分钟内的查询结果完全一致，缓存后响应时间从200ms降至2ms。
AI模型推理缓存：大语言模型对话中，相同的问题重复出现时直接返回缓存结果，避免重复计算。图像生成类API也可缓存固定提示词的结果。
CDN边缘缓存：将静态网页、图片、视频等响应缓存到用户最近的节点，减少回源带宽和延迟。
数据库查询缓存：针对高频且数据变动不频繁的SQL查询，将结果集缓存到Redis或内存中，大幅降低数据库负载。
容易混淆的点
与浏览器缓存的区别：浏览器缓存（如Cache-Control）只针对客户端本地，而响应缓存通常指服务端或中间代理层的缓存，可以跨用户共享。
与数据库查询缓存的区别：数据库查询缓存缓存的是具体SQL的返回结果，响应缓存则更通用——它缓存的是经过业务逻辑处理的最终响应（如JSON、HTML），可能涉及多个数据库调用。
缓存穿透 vs 缓存雪崩：缓存穿透指请求的key在缓存和数据库中都无对应数据，导致每次请求都打到数据库；雪崩指大量缓存同时过期导致瞬时压力汇聚。两者都是响应缓存需要警惕的副作用，解决方案不同。