跳转至

MRAgent:记忆是重建的,不是检索的

📊 Level ⭐⭐⭐⭐ | 10.9KB

新加坡国立大学(NUS)在 ICML 2026 提出 MRAgent,核心主张:记忆访问应该跟着推理一起走——每发现一条新证据,就改一次下一步要查什么。在 LoCoMo 上整体得分相对最强基线提升 23%,LongMemEval 提升 32%,Token 消耗仅 A-Mem 的 1/5。

→ 原文存档

范式切换:被动检索 → 主动重建

现有记忆方案两条路,各有死胡同:

相似度检索(MemoryBank、Mem0):检索方向完全由查询决定,推理过程中无法调整。跨人物、跨时间线的 multi-hop 查询无法处理。

图结构检索(A-Mem、Zep):沿预定义 k-hop 扩展,但扩展路径预先固定——无法根据中间证据动态剪枝或转向。

MRAgent 的核心主张:检索应该跟着推理一起走——每发现一条新证据,就改一次下一步要查什么。

认知神经科学基础:回忆更像按线索一点点「拼」出来,不是打开仓库把整段记忆原样读走。

Cue-Tag-Content 关联记忆图

记忆被建模为异构图 M = (C, V, R):

  • Cue(线索):细粒度关键词(实体名、属性、时间标记)
  • Content(内容):具体记忆条目
  • Tag(标签):连接 Cue 与 Content 的语义桥梁

三者通过三元组 (c, g, v) ∈ R 相连。Tag 在访问昂贵的 episodic 内容之前,先提供语义导航——避免在大图上做无约束的 k-hop 扩展导致组合爆炸。

先通过 Cue 激活候选 Tag,再基于选定的 Tag 检索 Content——把关联推理和内容检索解耦。

→ Agent 记忆系统框架

多粒度记忆层

记忆层 存储内容 典型用途
Episodic(情景) 特定时间点的具体事件 时间推理、事件回溯
Semantic(语义) 稳定的个人属性、偏好、事实 跳过冗长历史直达目标知识
Topic(主题) 跨多个 episode 的抽象模式 自顶向下定位相关事件簇

情景记忆沿统一时间线组织,支持时间约束;语义记忆通过 aspect-level Tag 锚定到实体线索;主题层提供自顶向下的跳转。

构建阶段保持轻量,复杂关系推理推迟到检索阶段按需执行。

→ Agent Memory 架构

主动重建算法

维护显式重建状态: - Z^(t)(活跃集):当前步骤待探索的 Cue、Tag、Content 候选 - H^(t)(重建上下文):前几步累积的证据

三类遍历动作: 1. 前向遍历:沿 Cue→Tag→Content 方向扩展 2. 反向遍历:从已检索的 Content 反向激活新的 Cue 和 Tag,根据中间证据调整探索方向

每轮三步走: 1. LLM 推理与动作选择 2. 受控图遍历 3. LLM 路由与状态更新(剪枝无关分支)

循环持续直到 LLM 判定证据充分,或进一步探索不太可能带来新信息。

理论保证

定理: 主动检索的表达能力严格强于被动检索。主动检索能学到被动检索能学的任何函数,反之则不成立。

这不是空喊口号——论文给出了近似理论角度的形式化证明。

实验结果

LoCoMo(Claude 骨干)

问题类型 最强基线 J MRAgent J 提升
Multi-hop 75.88 (Mem0) 90.19 +18.9%
Temporal 80.68 (LangMem) 85.34 +5.8%
Open Domain 56.25 (Mem0) 71.57 +27.2%
Single hop 83.12 (LangMem) 91.10 +9.6%

Gemini 骨干下 Overall 相对提升 23.3%。

LongMemEval

Overall 相对最强基线提升 32%。Multi-Session 从 56.39 跳到 68.42,Temporal 从 45.71 跳到 68.42。

Token 效率

方法 Token 消耗 运行时(s)
A-Mem 632k 1,122
LangMem 3,268k 1,210
Mem0 245k 533
MRAgent 118k 586

MRAgent Token 消耗仅 118k——不到 A-Mem 的 1/5,不到 LangMem 的 1/27。运行时与最快的 Mem0 基本持平。

效率来源:构建阶段保持轻量,复杂推理推迟到检索阶段按需执行;Tag 在访问 episodic 内容前提供语义导航,提前剪枝无关路径。

消融与多轮推理

  • 光有 CTC 图结构但关闭主动推理,性能明显回落——图建得再好,不让 LLM 在上面走几步,multi-hop 照样拼不齐
  • Multi-hop 查询:迭代探索带来超过 30% 的召回提升
  • 增加并行检索预算无法替代更深的重建深度——记忆推理本质是序列依赖的
  • LLM 能有效判断何时继续搜索、何时停止,避免冗余探索

局限与问号

  • 多轮 LLM 调用在极端低延迟场景能不能扛住?
  • 构建阶段的 LLM 蒸馏一旦抽错 Tag,下游会不会一路带偏?
  • LoCoMo 和 LongMemEval 上证据充分,生产环境对话分布更脏更乱

深度分析

从"存储-检索"到"构建-重建"的范式跃迁

MRAgent 的核心贡献不是又一个更好的检索算法,而是对记忆访问范式的重新定义。传统方案(无论向量检索还是图检索)都假设记忆是"存好的等你来取",而 MRAgent 认为记忆是"根据当前推理状态临时拼装的"。这与认知神经科学的发现一致:人类回忆不是从硬盘读文件,而是根据线索一点点重建场景。

Tag 中介层解决了图检索的组合爆炸问题

纯向量检索太扁(无法 multi-hop),全量 k-hop 图扩展又太重(组合爆炸)。Cue-Tag-Content 三层结构中,Tag 作为语义桥梁,在访问昂贵的 episodic 内容之前先做粗筛——这相当于给图遍历加了一个"路由层"。Tag 够轻能做快速语义路由,又够结构化能支撑 multi-hop 遍历。

Token 效率的结构性来源

MRAgent 的 118k Token vs A-Mem 的 632k,并非来自"更聪明的检索",而是来自架构设计:构建阶段保持轻量(只提取 Cue 和 Tag),复杂关系推理推迟到检索阶段按需执行。这意味着大部分记忆条目永远不会被完整加载——只有被 Tag 路由到的 Content 才会消耗 Token。这种"按需加载"模式对 Agent 记忆系统的工程实现有直接指导意义。

主动重建的理论保证不是空话

论文给出了形式化证明:主动检索的表达能力严格强于被动检索。这不是经验性的"我们跑了个实验还不错",而是从近似理论角度证明了 H_active(T) ⊃ H_passive(T)。这意味着无论被动检索算法怎么优化,都无法达到主动检索的上限——两者的差距是结构性的,不是工程性的。

Multi-hop 痛点暴露了现有记忆系统的根本缺陷

Single-hop 涨幅温和(83→91),Multi-hop 跳幅巨大(75→90)。这说明现有记忆系统的真正短板不在"找到一条相关记录",而在"通过推理发现下一步该查什么"。对于 Agent Harness 工程师来说,这意味着记忆系统的设计重心应该从"检索精度"转向"推理-检索联动"。

实践启示

  1. Agent 记忆系统应采用"构建轻量+检索按需"架构:在记忆写入时只提取 Cue 和 Tag,复杂推理推迟到查询阶段。这能将 Token 消耗降低 5 倍以上
  2. Tag 层是图记忆系统的关键创新点:设计记忆系统时,不要直接从原始内容跳到检索,中间需要一个语义路由层(Tag)来控制图遍历的组合爆炸
  3. Multi-hop 推理能力应成为记忆系统评测的核心指标:Single-hop 测试无法暴露记忆系统的真正短板,评测基准应重点考察跨时间线、跨实体的推理能力
  4. 多轮 LLM 调用的延迟需要在架构层面权衡:MRAgent 的精度优势来自多轮推理,但每轮都是一次 LLM 调用。在低延迟场景需要考虑并行探索或缓存策略
  5. 关注构建阶段 Tag 提取的鲁棒性:如果 Tag 提取出错,下游整个重建链路都会被带偏。需要投入 Tag 质量的监控和纠错机制

相关链接