游乐游手机版
首页/AI热点日报/热点详情

AI Agents记忆系统全面复盘:三大类六种操作详解

类型:热点整理2026-07-17
先说几个核心判断。AI系统的记忆问题,正从一个技术细节逐渐演变为决定智能体能力上限的关键因素。要让大模型真正“记住”信息、跨越多轮对话保持连续性,甚至像人类一样动态调整自身知识,我们必须先搞清楚记忆系统是如何运作的。本文系统梳理了AI记忆的三种分类、六种基本操作,以及它们在长期记忆、长上下文、参数修

先说几个核心判断。AI系统的记忆问题,正从一个技术细节逐渐演变为决定智能体能力上限的关键因素。要让大模型真正“记住”信息、跨越多轮对话保持连续性,甚至像人类一样动态调整自身知识,我们必须先搞清楚记忆系统是如何运作的。本文系统梳理了AI记忆的三种分类、六种基本操作,以及它们在长期记忆、长上下文、参数修改和多源整合等场景中的实际应用。

一、记忆的分类体系

在AI中,记忆系统并非单一实体,而是分为三个层次。第一类是参数化记忆,指模型内部参数中隐式存储的知识——即模型在预训练阶段“学习”并固化在权重中的信息。它的优点是响应速度快,常识知识和事实可瞬间检索;但缺点也很突出:不透明,且难以根据新经验进行局部更新。这类记忆最适合用于问答系统或常识推理等对速度要求高、但知识相对固定的场景。

第二类是上下文非结构化记忆,这是一种显式、多模态的记忆系统,能够处理文本、图像、音频、视频等各类异构输入。按时间范围可进一步细分:短期记忆,如当前对话的上下文;长期记忆,如跨会话的个人知识。典型应用场景包括多模态对话系统和视觉问答,这些系统需要整合感知信号,动态跟踪上下文变化。

第三类是上下文结构化记忆,它以预定义的可解释格式组织显式记忆,例如知识图谱、关系表、本体论。这类记忆支持符号推理和精确查询,能够与预训练语言模型的关联能力形成互补。短期来看,它可在推理时临时构建用于局部推理;长期来看,它能跨会话存储策划知识。典型应用包括知识图谱问答和复杂事件推理。

二、记忆六种操作

那么,记忆系统到底如何运作?核心在于六种基本操作,它们被划分为两大类:记忆管理和记忆利用。

在记忆管理侧,主要负责存储、维护和修剪记忆。首先是巩固操作,即将短期经验转化为长期持久记忆,例如把对话历史编码成模型参数或知识图谱。它支持持续学习、个性化、外部记忆库构建等功能。其次是指数化,构建辅助代码(如实体、属性)来高效检索存储的记忆,可支持符号、神经和混合记忆系统。然后是更新,重新激活现有记忆并进行临时修改,例如通过定位和编辑机制修改模型参数,或通过总结、修剪来更新上下文记忆。最后是遗忘,有选择性地抑制过时、无关或有害的记忆,可基于时间衰减或语义过滤来清除不再相关的内容。

在记忆利用侧,对应推理过程中如何检索和使用记忆。核心操作有两个:检索,根据输入识别并访问相关记忆内容,支持从多模态输入、跨会话记忆等多个来源获取信息;压缩,在保持关键信息的同时减小记忆大小,以便在有限的上下文窗口内高效使用。压缩可以发生在预输入阶段(如对长上下文进行评分、过滤、总结),也可以发生在后检索阶段(如在模型推理前压缩检索到的内容)。

三、从记忆操作到系统级主题

更关键的是,这些操作在实际系统中如何组合应用?下面从几个主要研究主题来展开。

3.1 长期记忆

长期记忆是指通过与环境的交互持久存储的信息,支持跨会话的复杂任务和个性化交互。在管理层面,巩固操作负责将短期记忆转化为长期记忆(如对话历史总结),索引操作构建记忆索引(如知识图谱或时间线),更新操作根据新信息动态编辑,遗忘操作则选择性移除过时内容。在利用层面,检索操作根据当前输入和上下文调取相关记忆,整合操作将检索到的记忆与模型上下文结合,支撑连贯推理,生成操作则基于整合结果输出响应。此外,个性化方面有两种路径:模型级适应通过微调或轻量级更新将用户偏好编码到参数中,记忆级增强则是在推理时从外部记忆中检索用户特定信息来增强个性化。

3.2 长上下文记忆

长上下文记忆的核心挑战在于:如何高效处理和利用海量上下文信息。在参数化效率方面,有KV缓存丢弃(通过静态或动态方式丢掉不必要的缓存)、KV缓存存储优化(通过量化或低秩表示压缩缓存)、KV缓存选择(通过查询感知的方式选择性加载)。在上下文利用方面,有上下文检索(通过图结构或片段级选择从大量上下文中提取关键信息)和上下文压缩(通过软提示或硬提示压缩减少上下文长度,提升推理效率)。

3.3 参数化记忆修改

参数化记忆修改的目标是动态调整模型内部参数,以适应新知识或新任务。编辑方法包括定位-编辑(通过归因找到知识存储位置直接修改)、元学习(通过编辑网络预测目标权重变化)、提示方法(通过精心设计的提示间接引导输出)、附加参数方法(添加外部模块而不修改权重)。遗忘方法包括定位-遗忘(找到负责特定记忆的参数并应用目标更新或禁用)和训练目标方法(通过修改损失函数或优化策略显式鼓励遗忘)。持续学习则涉及正则化方法(约束重要权重更新)和重放方法(重新引入过去样本强化记忆)。

3.4 多源记忆

多源记忆整合来自不同来源(文本、知识图谱、多模态输入)的信息,以支持更丰富的推理和决策。跨文本整合方面,需要解决推理(整合多格式记忆生成一致响应)和冲突解决(识别和处理矛盾信息,例如通过信任校准和来源归因)。多模态协调方面,包括融合(对齐跨模态信息,比如统一语义投影或长期跨模态记忆整合)和检索(跨模态检索存储的知识,比如基于嵌入的相似性计算)。

来源:https://www.53ai.com/news/LargeLanguageModel/2025052125896.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。