MRAgent:记忆是重建的,不是检索的¶
📊 Level ⭐⭐⭐⭐ | 10.9KB
新加坡国立大学(NUS)在 ICML 2026 提出 MRAgent,核心主张:记忆访问应该跟着推理一起走——每发现一条新证据,就改一次下一步要查什么。在 LoCoMo 上整体得分相对最强基线提升 23%,LongMemEval 提升 32%,Token 消耗仅 A-Mem 的 1/5。
→ 原文存档
范式切换:被动检索 → 主动重建¶
现有记忆方案两条路,各有死胡同:
相似度检索(MemoryBank、Mem0):检索方向完全由查询决定,推理过程中无法调整。跨人物、跨时间线的 multi-hop 查询无法处理。
图结构检索(A-Mem、Zep):沿预定义 k-hop 扩展,但扩展路径预先固定——无法根据中间证据动态剪枝或转向。
MRAgent 的核心主张:检索应该跟着推理一起走——每发现一条新证据,就改一次下一步要查什么。
认知神经科学基础:回忆更像按线索一点点「拼」出来,不是打开仓库把整段记忆原样读走。
Cue-Tag-Content 关联记忆图¶
记忆被建模为异构图 M = (C, V, R):
- Cue(线索):细粒度关键词(实体名、属性、时间标记)
- Content(内容):具体记忆条目
- Tag(标签):连接 Cue 与 Content 的语义桥梁
三者通过三元组 (c, g, v) ∈ R 相连。Tag 在访问昂贵的 episodic 内容之前,先提供语义导航——避免在大图上做无约束的 k-hop 扩展导致组合爆炸。
先通过 Cue 激活候选 Tag,再基于选定的 Tag 检索 Content——把关联推理和内容检索解耦。
多粒度记忆层¶
| 记忆层 | 存储内容 | 典型用途 |
|---|---|---|
| Episodic(情景) | 特定时间点的具体事件 | 时间推理、事件回溯 |
| Semantic(语义) | 稳定的个人属性、偏好、事实 | 跳过冗长历史直达目标知识 |
| Topic(主题) | 跨多个 episode 的抽象模式 | 自顶向下定位相关事件簇 |
情景记忆沿统一时间线组织,支持时间约束;语义记忆通过 aspect-level Tag 锚定到实体线索;主题层提供自顶向下的跳转。
构建阶段保持轻量,复杂关系推理推迟到检索阶段按需执行。
主动重建算法¶
维护显式重建状态: - Z^(t)(活跃集):当前步骤待探索的 Cue、Tag、Content 候选 - H^(t)(重建上下文):前几步累积的证据
三类遍历动作: 1. 前向遍历:沿 Cue→Tag→Content 方向扩展 2. 反向遍历:从已检索的 Content 反向激活新的 Cue 和 Tag,根据中间证据调整探索方向
每轮三步走: 1. LLM 推理与动作选择 2. 受控图遍历 3. LLM 路由与状态更新(剪枝无关分支)
循环持续直到 LLM 判定证据充分,或进一步探索不太可能带来新信息。
理论保证¶
定理: 主动检索的表达能力严格强于被动检索。主动检索能学到被动检索能学的任何函数,反之则不成立。
这不是空喊口号——论文给出了近似理论角度的形式化证明。
实验结果¶
LoCoMo(Claude 骨干)¶
| 问题类型 | 最强基线 J | MRAgent J | 提升 |
|---|---|---|---|
| Multi-hop | 75.88 (Mem0) | 90.19 | +18.9% |
| Temporal | 80.68 (LangMem) | 85.34 | +5.8% |
| Open Domain | 56.25 (Mem0) | 71.57 | +27.2% |
| Single hop | 83.12 (LangMem) | 91.10 | +9.6% |
Gemini 骨干下 Overall 相对提升 23.3%。
LongMemEval¶
Overall 相对最强基线提升 32%。Multi-Session 从 56.39 跳到 68.42,Temporal 从 45.71 跳到 68.42。
Token 效率¶
| 方法 | Token 消耗 | 运行时(s) |
|---|---|---|
| A-Mem | 632k | 1,122 |
| LangMem | 3,268k | 1,210 |
| Mem0 | 245k | 533 |
| MRAgent | 118k | 586 |
MRAgent Token 消耗仅 118k——不到 A-Mem 的 1/5,不到 LangMem 的 1/27。运行时与最快的 Mem0 基本持平。
效率来源:构建阶段保持轻量,复杂推理推迟到检索阶段按需执行;Tag 在访问 episodic 内容前提供语义导航,提前剪枝无关路径。
消融与多轮推理¶
- 光有 CTC 图结构但关闭主动推理,性能明显回落——图建得再好,不让 LLM 在上面走几步,multi-hop 照样拼不齐
- Multi-hop 查询:迭代探索带来超过 30% 的召回提升
- 增加并行检索预算无法替代更深的重建深度——记忆推理本质是序列依赖的
- LLM 能有效判断何时继续搜索、何时停止,避免冗余探索
局限与问号¶
- 多轮 LLM 调用在极端低延迟场景能不能扛住?
- 构建阶段的 LLM 蒸馏一旦抽错 Tag,下游会不会一路带偏?
- LoCoMo 和 LongMemEval 上证据充分,生产环境对话分布更脏更乱
深度分析¶
从"存储-检索"到"构建-重建"的范式跃迁¶
MRAgent 的核心贡献不是又一个更好的检索算法,而是对记忆访问范式的重新定义。传统方案(无论向量检索还是图检索)都假设记忆是"存好的等你来取",而 MRAgent 认为记忆是"根据当前推理状态临时拼装的"。这与认知神经科学的发现一致:人类回忆不是从硬盘读文件,而是根据线索一点点重建场景。
Tag 中介层解决了图检索的组合爆炸问题¶
纯向量检索太扁(无法 multi-hop),全量 k-hop 图扩展又太重(组合爆炸)。Cue-Tag-Content 三层结构中,Tag 作为语义桥梁,在访问昂贵的 episodic 内容之前先做粗筛——这相当于给图遍历加了一个"路由层"。Tag 够轻能做快速语义路由,又够结构化能支撑 multi-hop 遍历。
Token 效率的结构性来源¶
MRAgent 的 118k Token vs A-Mem 的 632k,并非来自"更聪明的检索",而是来自架构设计:构建阶段保持轻量(只提取 Cue 和 Tag),复杂关系推理推迟到检索阶段按需执行。这意味着大部分记忆条目永远不会被完整加载——只有被 Tag 路由到的 Content 才会消耗 Token。这种"按需加载"模式对 Agent 记忆系统的工程实现有直接指导意义。
主动重建的理论保证不是空话¶
论文给出了形式化证明:主动检索的表达能力严格强于被动检索。这不是经验性的"我们跑了个实验还不错",而是从近似理论角度证明了 H_active(T) ⊃ H_passive(T)。这意味着无论被动检索算法怎么优化,都无法达到主动检索的上限——两者的差距是结构性的,不是工程性的。
Multi-hop 痛点暴露了现有记忆系统的根本缺陷¶
Single-hop 涨幅温和(83→91),Multi-hop 跳幅巨大(75→90)。这说明现有记忆系统的真正短板不在"找到一条相关记录",而在"通过推理发现下一步该查什么"。对于 Agent Harness 工程师来说,这意味着记忆系统的设计重心应该从"检索精度"转向"推理-检索联动"。
实践启示¶
- Agent 记忆系统应采用"构建轻量+检索按需"架构:在记忆写入时只提取 Cue 和 Tag,复杂推理推迟到查询阶段。这能将 Token 消耗降低 5 倍以上
- Tag 层是图记忆系统的关键创新点:设计记忆系统时,不要直接从原始内容跳到检索,中间需要一个语义路由层(Tag)来控制图遍历的组合爆炸
- Multi-hop 推理能力应成为记忆系统评测的核心指标:Single-hop 测试无法暴露记忆系统的真正短板,评测基准应重点考察跨时间线、跨实体的推理能力
- 多轮 LLM 调用的延迟需要在架构层面权衡:MRAgent 的精度优势来自多轮推理,但每轮都是一次 LLM 调用。在低延迟场景需要考虑并行探索或缓存策略
- 关注构建阶段 Tag 提取的鲁棒性:如果 Tag 提取出错,下游整个重建链路都会被带偏。需要投入 Tag 质量的监控和纠错机制
相关链接¶
- 论文:https://arxiv.org/abs/2606.06036
- GitHub:https://github.com/Ji-shuo/MRAgent
- → Agent Memory 架构 — 记忆系统设计模式
- → Agent Memory 模块化框架 — ICLR 2026 评测基准
- → Mem0:Agent Harness 记忆现状 — Mem0 等基线对比
- → Agent 记忆生命周期
- → 原文存档