Generative Agents: Interactive Simulacra of Human Behavior
这是什么
这篇 UIST 2023 论文(即著名的『斯坦福小镇』/Smallville)研究的问题是:如何让 LLM 驱动的软件 agent 表现出可信的、长期一致的人类行为。直接把 LLM 塞进游戏角色会遇到根本困难——上下文窗口装不下一个角色几天的完整经历,行为会前后矛盾、遗忘刚发生的事。作者的答案是给 agent 外挂一套用自然语言记录的记忆系统:完整记录所有经历(memory stream),按需检索,并周期性地把低层观察综合成高层结论(reflection)。
他们用 GPT-3.5(gpt-3.5-turbo,实验做于 2023 年初)驱动 25 个各有人设的 agent,放进一个像素风小镇里运行两个游戏日。最出圈的结果是涌现的社会行为:只给 Isabella 一个『想办情人节派对』的初始意图、给 Maria 一条『暗恋 Klaus』的人设,agent 们就自发完成了传播邀请、装饰咖啡馆、约对象、最后 5 个 agent 准时到场的完整链条。注意这篇的主题是社会模拟(HCI 场景),但它对 agent 领域的实际遗产是那套记忆架构——收录进 continual-learning 方向也是因为这个。
机制与做法
Memory stream + 三因子检索
核心数据结构是 memory stream:一个按时间排列的自然语言记录列表,存 agent 的全部观察(observation)、计划和反思。行动或对话时不可能把全部记忆塞进 prompt,所以用检索函数打分取 top 记忆,分数是三项加权和:recency(距上次访问的时间指数衰减)、importance(让 LLM 给每条记忆打 1-10 分,『吃早饭』低分、『分手』高分)、relevance(embedding 余弦相似度)。这个『时近性 + 重要性 + 相关性』三因子公式后来被 LangChain 等框架直接内置,是本文被引用最多的部分。
Reflection 与 Planning
只有原始观察不够——agent 需要泛化。当近期记忆的 importance 累计分超过阈值(实践中约每天 2-3 次),触发 reflection:让 LLM 对最近 100 条记忆提出 3 个高层问题,再针对每个问题检索证据并生成带引用的结论(如『Klaus 对研究充满热情』),结论作为新记忆写回 stream,且可以在更高层的 reflection 之上再反思,形成树状抽象层级。
Planning 解决长程一致性:每天先用人设摘要 + 前一天总结生成粗粒度日计划,再递归分解到小时级、5-15 分钟级。执行中 agent 每步感知周围环境,由 LLM 判断是否需要对突发事件做出 react(比如撞见别人聊天时决定是否加入),需要则重新规划后续计划。这三个模块的消融实验(见 findings)是论文论证的核心。
关键结果
- 消融实验:让 100 名评估者对 25 个 agent 的访谈回答做可信度排序,用 TrueSkill 换算得分——完整架构 μ=29.89 最高,去掉 reflection 降到 26.88,再去 planning 降到 25.64,全部去掉(只剩裸 LLM)最差 21.21;三个模块各自都有显著贡献(Kruskal-Wallis H(4)=150.29, p<0.001)。
- 一个反直觉的结果:人类 crowdworker 扮演的角色(μ=22.95)可信度反而低于带记忆的 agent 架构,只比全消融基线略好——即评估者认为完整架构的 agent 比人类扮演者『更像那个角色』。
- 涌现社会行为:两个游戏日内,Sam 竞选镇长的消息知晓率从 1/25 涨到 8/25,情人节派对从 1/25 涨到 13/25(均无人为干预);agent 间形成新社交关系,网络密度从 0.167 升到 0.74。
- 失败模式论文自己写得很坦率:检索会漏(Rajiv 明明听说过竞选却答『没怎么关注』)、记忆会取到不完整片段、会借 LLM 的世界知识添油加醋(agent Adam Smith 被邻居描述成《国富论》作者)、行为日趋规范化、地点选择会因记忆里地点变多而变得浮夸(去酒吧吃午饭)。
- 成本:模拟 25 个 agent 两个游戏日花了『数千美元』token 费用和多个真实日的时间(论文 discussion 节原话),实时交互在 2023 年是不现实的。
实证核查
与我们方向的关系
对 continual-learning 方向,这篇是『记忆机制』一支的源头文献:memory stream(全量自然语言日志)+ 三因子检索 + reflection(周期性把经验蒸馏成高层结论再写回)构成了一个不改权重、纯上下文层面的经验积累闭环,后来的 MemGPT、Voyager 的 skill library、各类 agentic memory 系统基本都能看到它的影子。特别值得借鉴的是 reflection 的设计:它不是简单摘要,而是『提问 → 检索证据 → 生成带引用的结论 → 结论本身可被再反思』,这是一种可控的、有层级的记忆固化(consolidation)过程,和 continual learning 里对抗灾难性遗忘的『重放 + 抽象』思路是同构的。
读的时候把它当架构参考而非评测参考:它的评估是社会模拟可信度,不能说明这套记忆在任务型 agent 上的效果;importance 打分依赖 LLM 主观判断、reflection 触发阈值是手调的,这些在自己系统里都需要重新校准。