你是否曾好奇，当AI Agent需要回忆起几个月前你预订过的那家酒店，或者将两次分散的对话片段拼合成一个完整结论时，它背后的记忆系统究竟需要多强大的能力？

随着LLM Agent在智能客服、个人助理、社交陪伴以及医疗辅助等场景中不断深入应用，其对话模式早已超越简单的一问一答，演变为跨越多个会话、完成多重任务的持续协作。这就要求Agent的“记忆”不仅限于存储聊天记录，更需记录用户的意图、实体状态、事件脉络，并在复杂查询中提供准确、可追溯且响应迅速的数据支撑。

然而，现状是主流记忆系统大多依赖向量数据库、图数据库与关系型存储的混合拼接，导致记忆表示碎片化，跨库查询成本居高不下。在检索机制方面，普遍采用RAG那种“被动相似度匹配”方式，容易引入噪声、遗漏关联线索，且无法有效控制Token预算，检索质量往往难以保障。

针对这些痛点，中国科学院软件研究所等机构的研究团队推出了名为Mandol的系统。其核心思路非常明确——将碎片化的记忆表示与异构存储，凝聚为一个统一的内存原生架构。

论文标题：Mandol: An Agglomerative Agent Memory System for Long-Term Conversations
arXiv 论文链接：https://arxiv.org/pdf/2606.29778
项目地址：https://github.com/AgentCombo/Mandol

Mandol通过分层记忆模型、统一内存语义数据结构以及智能量化检索机制三个维度的协同设计，将原本分散的记忆表示与存储整合为一个统一架构，为Agent打造了一个兼具表示能力、检索效率和上下文质量的记忆底座。

在LoCoMo和LongMemEval这两个公开的长对话记忆评测基准上，Mandol在所有被比较的开源记忆系统中，总体准确率均表现最优。在以GPT-4.1-mini作为回答生成模型的设置下，它在两项基准上的整体准确率分别达到92.21%和88.40%。在10 QPS（每秒10个查询请求）的并发负载下，Mandol的平均检索延迟仅为82.2毫秒，相比最快的基线系统提升了约5.4倍；平均插入延迟为39.7毫秒，比最快的基线快了大约4.8倍。更值得关注的是，在消费级笔记本硬件上运行时，Mandol的延迟依然低于现有系统，显示出其在端侧部署方面的巨大潜力。

从「碎片化存储」到「被动检索」：核心瓶颈究竟在哪里？

在实际应用中，Agent面临的记忆查询既复杂又多样，从简单的事实提取到需要多跳推理的复杂问题，不一而足。以下三类查询对记忆系统尤其具有挑战性：

强时序性检索。 例如，当被问到“去年暑假我去北欧旅行期间订了哪些酒店，总花费是多少？”时，系统需要精准回溯你在不同城市的多次住宿记录，将时间和花费信息关联起来，最终汇总出结果。这要求系统具备在长周期内从多个时序事件中精确提取并聚合信息的能力。

跨会话多跳推理。 假设你在一次会话中提到“我对海鲜过敏”，几天后又在另一个会话中描述“吃完晚饭后皮肤起了大片红疹”。系统需要将过敏史与当前症状跨会话地拼接并进行推理，得出可能是过敏反应的结论，而不是孤立地检索关键词。

动态状态更新与去噪。 例如，你的购房偏好从“郊区大户型”转变为“市区学区房”。系统必须准确跟踪这一变化，在回答“根据我的最新需求推荐几个楼盘”时，只依据最新条件进行推荐，自动覆盖旧偏好，避免其干扰当前决策。

那么，当前主流的Agent记忆系统，如Mem0、Zep、MemOS等，在架构和检索机制上究竟存在哪些瓶颈？

第一个问题：记忆信息难以统一表示。 向量嵌入擅长语义相似性匹配，但难以清晰表达逻辑结构或时序关系；知识图谱虽然结构性强，但其固定模式对动态语义和演化支持不足。两者缺乏统一的表征框架，导致记忆信息分散在不同结构中，查询时难以获得完整视图。

第二个问题：跨库查询开销过大。 复杂的混合查询需要在向量数据库、图数据库及其他存储之间反复协调，序列化和I/O开销居高不下，难以满足低延迟交互的需求。

第三个问题：查询精度与Token消耗难以平衡。 传统RAG式“被动相似度匹配”检索存在两大难题：检索结果中常混入噪声、冲突，或遗漏多跳推理所需的线索；同时Token消耗无法有效控制，简单查询可能浪费上下文窗口，而复杂查询的关键证据链却常因截断而丢失。

Mandol 的三项核心设计：表示、存储与检索的一体化方案

面对这些挑战，Mandol从记忆模型、存储架构和检索机制三个维度提供了系统性解决方案。

设计一：分层记忆模型 —— 以结构化语义图实现统一表征

Mandol将记忆组织为两个层次。

基础记忆层负责直接存储原始交互信息。它利用记忆单元（封装原始信息与语义向量）、记忆空间（提供多粒度的逻辑隔离），结合显式关系（时序、引用、状态更新等）和隐式语义关系，构建出一个统一的结构化语义图。

高阶抽象记忆层则由大模型自动从基础记忆中提炼而成，包括情景记忆（事件链）、语义记忆（实体关系图）和情感记忆（用户偏好演化链）等抽象知识。

两层之间通过可追溯的链接保持双向关联，任何抽象推理结论都能回溯至原始的对话证据。这一设计既保留了基础层的全部信息，又提供了支持推理的高阶抽象视图，为统一表示问题给出了系统化的解决方案。

在结构化语义图中，基础层的记忆单元以节点形式存在，显式关系边通过规则解析直接建立，隐式语义边则在查询时按需从向量索引中获取。高阶层在此基础上进一步抽象：事件链用时序和因果边连接事件节点，实体图用引用和属性边组织实体关系，偏好演化链用状态更新边追踪用户偏好的变化轨迹。

举例来说，一个简短的对话片段“预订了一间胡同民宿”，被增强为带有时空上下文的事件节点后，Mandol不仅将其与同一次旅行的其他事件（如“航班延误”“参观故宫”）建立时序边，还通过语义索引与之前会话中的“计划预订王府井酒店”建立跨会话的隐式关联，并在此基础上抽象出一条状态更新边，完整刻画了住宿偏好从“王府井酒店”到“胡同民宿”的演变过程。所有抽象节点都保留着指向原始基础单元的引用，为后续的精确检索提供了既细粒度又具备推理能力的数据基础。

设计二：内存原生语义数据结构 —— 消除跨库查询延迟

异构多库架构是查询延迟的主要根源。针对这一痛点，Mandol提出了一种基于内存语义数据结构的统一存储架构，设计了SemanticMap和SemanticGraph两个协同工作的原生内存数据结构，在单一地址空间内将键值存储、向量索引和图结构原生地融合在一起。

SemanticMap融合了传统键值存储与向量结构，解决了记忆单元的多模态数据存储和语义查询问题，并支持通过记忆空间标签实现上下文逻辑隔离。SemanticGraph则统一管理显式记忆关系与隐式语义关联：显式关系以结构化边直接存储在图中，隐式语义关联则依靠SemanticMap中的向量索引按需检索、动态返回相似邻居，从而避免了提前枚举和物化所有潜在的语义边。两者相互关联，在物理层面实现了结构化语义图的统一存储视图。

在此基础上，Mandol提供了一套原子化混合检索算子，覆盖记忆单元查询、空间查询、关系查询和多跳查询等操作，将向量匹配、图遍历等操作统一封装为内存内的高效执行单元，大幅降低了异构存储带来的高I/O延迟。此外，活跃记忆层通过异步分页机制连接嵌入式的持久化后端DuckDB，用于处理冷数据或长期存储需求。

设计三：智能量化检索机制 —— 在 Token 预算内构建高质量上下文

Mandol将检索任务重新定义为“在有限Token预算下构建高质量上下文”，并构建了一套无需大模型介入的量化检索流程。

其核心方法是：首先通过查询自适应的智能路由进行预算分配和多源并行召回——即根据查询特征，选取部分高阶记忆和基础记忆进行检索，确保记忆信息的完整覆盖；随后对召回结果进行记忆源内部的量化去噪和跨记忆源的冲突消解，去除噪声和冗余信息；最后在Token预算约束下完成上下文的精简与生成，兼顾相关性与多样性，在有限的资源开销内获取高信息密度的证据上下文。

实验：总体准确率领先，效率大幅提升，部署友好

研究团队在LoCoMo和LongMemEval两个长对话记忆评测基准上对Mandol进行了全面验证。

在检索质量方面，以GPT-4.1-mini作为生成模型、GPT-4o-mini作为评估模型的设置下，Mandol在LoCoMo和LongMemEval上分别取得了92.21%和88.40%的整体准确率，在所有被比较的代表性开源记忆系统中表现最佳。特别是在多跳推理、时序推理和知识更新等复杂查询类型上，Mandol的领先优势十分显著。

更有趣的是，即使使用更轻量的检索后端模型（Qwen3-Embedding-0.6B和bge-reranker-v2-m3），Mandol在总体准确率和多数关键任务上依然超越了那些采用更大检索模型的对比系统，同时Token消耗降低了17.4%至20.0%。这表明，其性能优势主要源于记忆组织和检索机制的结构性创新，而非单纯依赖更大的嵌入模型或重排序模型。

系统性能方面，在10 QPS并发负载的服务器环境（NVIDIA H800 GPU）下，Mandol的平均检索延迟仅为82.2毫秒，比最快的基线快了约5.4倍；平均记忆插入延迟为39.7毫秒，比最快的基线快了大约4.8倍。

值得关注的是，在本地消费级设备（笔记本NVIDIA RTX 5090）的补充实验中，Mandol的延迟依然低于现有系统，显示出其在本地部署方面的出色表现。这种显著的效率优势，根本原因在于其进程内内存原生架构彻底省去了数据库往返和跨库协调的开销。

资源消耗方面，Mandol的表现同样亮眼。其内存占用适中，且由于不再依赖外部数据库服务和网络通信，完成标准长对话负载的整体耗时仅为对比系统的1/4.2到1/9.9，本地部署的潜力令人期待。

结语

Mandol通过凝聚式的分层记忆模型、内存原生统一存储以及智能量化检索这三项核心创新，为Agent提供了一个兼顾高精度、低延迟和轻量化部署的记忆系统解决方案。该系统已在GitHub上开源，方便研究者复现、试用及进一步开发。得益于内存原生架构，Mandol无需依赖外部数据库服务，在消费级设备上即可高效运行，为端侧Agent的记忆管理开辟了新的可能性。

如果你正在构建那些需要可靠长期记忆的对话Agent、推荐Agent或陪伴Agent，Mandol在精度、性能和工程实用价值方面，都是一个值得认真考虑的选择。