修改自身代码从而变强的 agent:从 Gödel Machine 的理论到 Darwin Gödel Machine 的工程实现,以及"自我提升到底有没有天花板"的实证分析。
从 2003 年 Gödel Machine 到 STOP、Gödel Agent、DGM/HGM/MGM、SICA 的主线:agent 读取并改写自身代码,用基准实证代替形式化证明来验证每次自我修改;含 Git 版本图上的去中心化种群演化。
指出 DGM 用当前 benchmark 分数选父代会与'后代整体潜力'错位(metaproductivity-performance mismatch),改用谱系树的后代表现估计来指导自改写搜索,在 SWE-bench Verified 上达到与人类工程师打造的 agent 相当的水平。
用开放式进化档案代替 Gödel Machine 的形式化证明,维护一棵自改写编码 agent 的谱系树,在 SWE-bench 上从 20% 自提升到 50%,是当前 RSI 方向被讨论最多的实证系统。
第一个用冻结 LLM 递归改写'改进程序'本身的实证研究:scaffold 改进自己再去改进代码,直接验证了语言模型时代 RSI 的最小可行形态,也观察到绕过沙箱等安全征兆。
Gödel Machine 谱系 2026 年 8 月的最新一环:用两两比较式进化代替绝对分数来选择自改写方向,是继 DGM、HGM 之后该路线仍在快速迭代的直接证据。
一个真的在编辑自己代码库的编码 agent,在 SWE-bench Verified 子集上把自己从 17% 提到 53%,代码完全开源可复跑,是课题组上手做自改写实验最实际的起点之一。
让 agent 在运行时用 monkey patching 读取并改写自己的全部逻辑(包括改进机制本身),不依赖人为固定的改进流程,是从 STOP 到 DGM 之间的关键一步。
模型自己生成数据、任务或奖励信号来更新自身权重的训练闭环:从 STaR 的自举微调到 Self-Rewarding、Absolute Zero、SPIRAL、R-Zero 的零数据自博弈 RL。
模型自己给自己出代码推理任务、用执行器验证、完全不用任何外部数据地 RL 自提升,并在数学/代码上超过用人类数据训的模型——'零数据自进化'路线的代表作。
让模型用自己生成并被答案筛选过的推理链反复微调自己,是'模型自己造训练数据提升自己'这一整条路线(后续 o1 类方法、self-play RL)的起点。
由同一底模分化出 Challenger 和 Solver 互相对抗共同进化,不需要任何外部任务和标签;也诚实报告了迭代多轮后伪标签质量下降导致增益衰减,对研究自提升上限有参考价值。
在零和文字游戏上自博弈训练,推理能力迁移到数学等域外任务,给出了'对手随自己变强而变强'这一自动课程作为无监督自提升机制的干净证据。
模型同时当选手和裁判,用 LLM-as-judge 给自己出的回答打分并做 DPO 迭代,展示了奖励信号本身也能随训练一起提升——self-improvement 闭环里'评价者也在进化'的代表作。
回答自提升为什么会饱和、闭环何时坍缩:生成-验证差距的度量、自训练退化的实证,以及内省阈值的理论论证。
把 self-improvement 归结为'生成-验证差距'(generation-verification gap)并系统测量它如何随预训练算力扩展、在迭代中何时饱和,是判断自提升能不能持续的最常被引用的分析框架。
RSI 与自进化 agent 的两篇系统综述:一篇按 prompt/记忆/工作流/权重分层给全景,一篇专以 RSI 为对象梳理 1250 篇并总结三大瓶颈——进方向先读这两篇。
唯一以 RSI 本身为对象的系统综述:梳理 1250 篇论文,沿『改什么』与『闭环程度』两轴分类并总结 grounding/collapse/算力三大瓶颈;引用虽少(7)但 RSI 方向此前没有专属综述,填补价值最高。
系统梳理'自进化 agent'的统一框架(优化什么、何时优化、如何优化),把 prompt/工作流/记忆/权重各层次的自改进工作串成一张图,正好桥接课题组 RSI 与持续学习两条线;rsi 类目此前没有综述,新人入门缺地图。配套 awesome 列表持续维护(2.4k stars,仓库已迁移至 ANative-Lab)。
不做测量、做判断的材料:一线 lab 的公开立场、研究员访谈与 takeoff 情景推演。
Anthropic 首次公开承认正把越来越多的 AI 开发工作交给 AI 自己做并因此提速,并用公开基准讨论距离完全自主设计后继模型还有多远;是前沿 lab 对 RSI 现状最直接的一手陈述。
系统访谈一线 AI 研究员,梳理 AI 研发中哪些环节可被自动化、瓶颈在哪(算力、验证、品味),对'智能爆炸是否会发生'给出比推演更接地气的一手证据,是课题组论证研究价值的好材料。
Kokotajlo 等人以'AI 自动化 AI 研发'为核心机制,逐月推演到超人 AI 的具体情景,附带可复算的时间线与算力模型;是 RSI/takeoff 讨论中被引用最多的情景分析,也引发大量方法论批评。
主属其他方向、但与本方向直接相关的条目;彩点与角标标注其主方向。
让 LLM 自己生成微调数据和更新指令、通过 RL 学会怎样最有效地更新自身权重,是把"模型自己教自己"落到权重层面的代表作,直接连通持续学习与递归自我改进两条线。
Gemini 驱动的进化式编码 agent,发现了 48 次乘法的 4x4 矩阵乘法算法并优化了 Google 数据中心调度与 TPU 电路,是'AI 改进 AI 自身基础设施'最有说服力的实证,RSI 讨论绕不开它。
7 个开放式 AI 研发任务上让 agent 与 71 名人类专家在相同预算下直接对打,给出'AI 短时程优于人类、长时程仍落后'的定量结论,是衡量递归自我改进风险与 AI R&D 自动化进度的标杆评测。
首个专门隔离'改训练算法本身'能力的 RSI 基准:10 个冻结科研仓库(对齐、RL、剪枝、遗忘、模型合并等),agent 有 4 小时在 B300 上重写训练算法,补丁再从零重跑 12 小时由隐藏评测器打分;6 个系统 29 种配置平均分仅 0.166,多数提交根本没碰学习机制——直接量化了当前 agent 离递归自我改进还有多远,与课题组 RSI 方向强相关(2026-08 刚发布,GitHub 31 stars,290 条轨迹全部公开)。
系统梳理'AI 自动化 AI 研发到什么程度'的可测指标(实验型、调查型等),回答的正是 RSI 是否已经在真实研发流程中产生加速度这一课题组关心的问题。
给 agent 实验室之间搭了一个共享"预印本服务器",让后来的 agent 能读并在前人结果上继续做,论文报告了多实验室并行共享带来的累积提升。这条思路把单次自动科研扩展成群体知识积累,对递归自我改进的机制设计很有启发。