这是什么
2023 年以来 agent 记忆的论文爆发式增长,但术语混乱:同样叫 "memory" 的工作,动机、实现、评测协议可能完全不同,传统的 long-term/short-term 二分已经装不下这些系统。这篇综述做的第一件事就是划清边界——用一张 Venn 图区分 Agent Memory 与 LLM Memory、RAG、Context Engineering 四个概念:agent memory 的独特之处是维护一个跨任务持久、自演化的认知状态;RAG 查的是外部静态知识库,context engineering 是把上下文窗口当稀缺资源做调度,而 KV cache 管理、长上下文架构(Mamba 等)属于 LLM 内部记忆,不在 agent memory 范围内。
主体是三个正交的分类轴。形态轴(什么载体承载记忆):token-level(显式文本/结构,可读可编辑)、parametric(写进权重,泛化好但更新慢、易灾难性遗忘)、latent(隐状态/KV,机器原生、token 高效但人不可读)。功能轴(为什么需要记忆):factual(用户画像与环境知识)、experiential(案例/策略/技能三类经验)、working(单轮压缩与多轮状态整合)。动态轴(记忆如何运转):formation(从原始交互提取记忆单元)、evolution(consolidate/update/forget)、retrieval(何时、检索什么、如何用)。每个格子里都挂了代表工作,例如 factual+token 有 Mem0/Zep/A-MEM,experiential+token 有 Reflexion/ExpeL/AWM/ReasoningBank,working+latent 有 MEM1/SnapKV。
除了分类,Section 6 汇总了评测资源(LoCoMo、LongMemEval、MemoryAgentBench、LifelongAgentBench 等 30+ benchmark,按记忆型/终身学习型/自演化型分层)和 MemGPT、Mem0、Zep、MemOS、Letta 等约 20 个开源框架的对照表;Section 7 给出 7 个前沿判断,其中最有信息量的是 memory retrieval → memory generation、手工规则 → RL 驱动记忆管理这两条趋势线。
机制与做法
三形态的取舍:一张实用的选型表
综述对三种记忆形态给了工程上可操作的对比:token-level 符号化、可寻址、透明,增删改快,适合多轮 chatbot、个性化 agent 和法律/金融/医疗等需要可审计的高风险场景;parametric 隐式、抽象、可泛化,(通常)性能增益更大,但更新慢且灾难性遗忘更严重,适合角色扮演和需要习得全新能力的任务;latent 记忆(hidden states / 连续向量)人不可读,但天然适合多模态融合、端侧部署和低资源场景。这个 forms 视角的价值在于把 "用什么存" 和 "存来干什么" 解耦——同一个 experiential memory 既可以存成文本 insight(ReasoningBank),也可以蒸馏进 LoRA(Retroformer),还可以生成 latent token(MemGen)。
动态轴:formation-evolution-retrieval 的闭环
Section 5 把记忆生命周期画成一个闭环(见图):agent 与环境交互产生 raw information → memory formation(语义摘要、结构化构建、知识蒸馏、参数内化等手段把原始数据变成 memory unit)→ memory evolution(新记忆与旧库整合,包含 consolidate/update/forget 三种操作)→ memory retrieval(决定 when&where、what、how to retrieve 以及检索后如何 consolidate 进上下文)。这个框架的好处是能把看起来不相干的工作放到同一坐标系里:比如 MemoryBank 的遗忘曲线是 evolution 里的 forget 策略,HippoRAG 的图遍历是 retrieval 策略,Mem-α 用 RL 学的是 formation。
前沿判断:RL 正在接管记忆管理
Section 7 里最值得读的是 RL × memory 那节,给出三阶段演化图:RL-free(Mem0、MemOS、ExpeL 这类 prompt 驱动的启发式管道,目前仍是主流)→ RL-assisted(RL 只管一部分记忆操作:RMM 用 policy gradient 做检索重排,Mem-α/Memory-R1 用 RL 学记忆构建,Context Folding/MemSearcher/IterResearch 用 RL 学工作记忆的折叠压缩)→ 完全 RL-driven(记忆架构和控制策略端到端学出来,尚未实现)。作者的立场是:模仿人类认知的先验(海马体类比、episodic/semantic 分类)未必是人工 agent 的最优结构,应该让 RL 优化过程自己长出记忆组织方式。另一个平行趋势是从 memory retrieval 转向 memory generation——不再假设记忆库已经存好、只管查准,而是按需合成面向当前任务的记忆表示(ComoRAG 的 retrieve-then-generate,MemGen/VisMem 的直接生成 latent 记忆)。
关键结果
- 分类学贡献:形态(token/parametric/latent)× 功能(factual/experiential/working)× 动态(formation/evolution/retrieval)三轴正交分类,取代 long/short-term 二分;配套 paper list 按此结构组织了约 200 篇论文(正文引用 400+)。
- 概念边界:agent memory 几乎完全包含传统 "LLM memory"(MemoryBank、MemGPT 按现代术语都是 agent memory),但 KV cache 管理和 Mamba 类长上下文架构被明确排除在外;与 RAG 的分界是内部持久自演化 vs 外部静态任务库,与 context engineering 的分界是认知建模 vs 资源管理。
- 资源汇总:30+ benchmark 按三层分类(记忆型如 LoCoMo/MemBench/PersonaMem,终身学习型如 LongMemEval/LifelongAgentBench/StreamBench,自演化型如 MemoryAgentBench/Evo-Memory),外加约 20 个开源框架(MemGPT/Mem0/Zep/MemOS/LangMem 等)的能力对照表。
- 趋势判断:记忆管理正在从 RL-free 启发式管道走向 RL-assisted(Mem-α、Memory-R1、MemSearcher、IterResearch 等 2025 下半年密集出现),作者预测端到端 RL-driven 记忆系统是下一阶段。
- 影响力:2025-12-16 登上 Hugging Face Daily Paper #1;发布约 8 个月 S2 引用 250;paper list repo 2354 stars(2026-01 破 1k)。
- 作者阵容:47 人,横跨 Fudan、RUC、Griffith、Oxford(Philip Torr)等,属于领域共识型大综述,2026-01-13 出过一次吸收社区反馈的更新版。
实证核查
与我们方向的关系
对做 continual learning / self-evolving agent 的同学,这篇的实用价值是当索引和坐标系用:任何新出的 memory 工作都可以先问三个问题——存在哪(token/参数/latent)、存什么(事实/经验/工作状态)、怎么演化(formation/evolution/retrieval 哪一环有创新),快速定位它相对已有工作的增量。Experiential memory 一节(Reflexion→ExpeL→AWM→ReasoningBank→Memp 这条线)与本组 "agent 从经验中持续学习" 方向直接对口。
两个可跟进的研究缺口:一是 RL × memory 三阶段图里 "fully RL-driven" 一格目前是空的,现有工作(Mem-α、MemSearcher)都只覆盖记忆生命周期的一段,端到端学整个 formation-evolution-retrieval 闭环还没人做;二是 parametric experiential memory(把经验写进权重而非文本库)条目明显稀疏,只有 Retroformer、Early Experience 等寥寥几篇,与 token-level 的 40+ 篇形成对比,这正是 continual learning 技术可以切入的位置。注意 repo 已停更,追 2026-03 之后的新论文需要自己补。