The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery
这是什么
这是 Sakana AI 联合 UBC、Oxford 在 2024 年 8 月发布的系统论文,也是"端到端 AI Scientist"这个方向的开山之作。在此之前,LLM 只被用于科研流程的某个环节(头脑风暴、写代码、文献综述);这篇论文第一次把完整闭环跑通:给定一个可运行的实验模板,系统自动提出约 50 个研究想法、查 Semantic Scholar 做新颖性过滤、用 Aider 改代码跑实验、生成图表、写出 11 页带引用的 LaTeX 论文,最后由一个 GPT-4o 评审员按 NeurIPS 标准打分。
论文在三个机器学习子领域上做了演示:2D diffusion、NanoGPT 字符级语言建模、grokking 现象分析,分别用 Claude Sonnet 3.5、GPT-4o、DeepSeek Coder、Llama-3.1 405B 四个基座模型各跑约 50 个想法。整个实验只用了一台 8xH100 节点约一周,单篇论文摊下来约 10-15 美元 API 成本。代码开源(GitHub 14k+ stars),所有生成的论文、运行日志、评审结果都放在公开的 Drive 目录里。
它的历史地位在于定义了这个领域的基本架构模板:模板化实验(experiment.py + plot.py + prompt.json + seed_ideas.json)+ coding agent 迭代 + LLM 评审员打分。后续的 AI Scientist-v2、Agent Laboratory、CycleResearcher 等系统基本都沿用或对标这个框架。S2 引用数已过 1000。
机制与做法
三阶段流水线
阶段一 Idea Generation:从模板出发,借鉴 open-endedness 研究的思路,用 LLM 作 mutation operator 迭代生长一个想法档案库。每个想法包含描述、实验计划和自评的 interestingness / novelty / feasibility 分数,经多轮 chain-of-thought 和 self-reflection 打磨,再连 Semantic Scholar API 查重,过滤掉与已有文献太像的想法。注意:novelty 判定是模型对自己想法的自评,论文自己也承认这使跨模型的"新颖性"比较不可靠。
阶段二 Experiment Iteration:把想法和模板交给 Aider(基于 diff 的 coding agent),先规划实验列表再逐个执行;失败或超时的报错会回传给 Aider 修复,最多重试 4 次;每个实验完成后记"实验日志"式笔记,再据此规划下一个实验,最多迭代 5 轮;最后让 Aider 改绘图脚本产出论文用图。系统经常会实现模板里没有的新图和新指标。
阶段三 Paper Write-up:按 introduction→background→methods→experimental setup→results→conclusion 的顺序逐节填空,prompt 里明确要求"只使用代码真实产出的实验结果和真实引用"来抑制幻觉;再用 20 轮 Semantic Scholar 查询补 related work 和引文;最后逐节 self-reflection 去重、LaTeX linter + 编译报错回传自动修复。
自动评审员:用 500 篇 ICLR 2022 论文校准
评审员是 GPT-4o + NeurIPS 评审指南 prompt,输出 soundness/presentation/contribution/overall/confidence 分数、优缺点列表和 accept/reject 二元决策。最佳配置是 5 轮 self-reflection + 5 个评审 ensemble + meta-aggregation + 1 个 few-shot 样例,单次评审成本 $0.25-0.50。
在 500 篇 ICLR 2022 论文上校准:决策准确率 70%(NeurIPS 2021 一致性实验的人类基线是 73%),以 6 分为阈值时 balanced accuracy 0.65 vs 人类 0.66,F1 0.57 反超人类的 0.49,但 False Positive Rate 0.31 明显高于人类的 0.17——也就是说这个评审员偏松,更容易把差论文放进来。另一个常被引用的数字:两个人类评审员之间打分相关性只有 0.14,而 LLM 分数与人类均分的相关性是 0.18,作者以此论证 LLM 评审不比单个人类评审员更不靠谱。
模型选择上只有 GPT-4o 能用:Sonnet 3.5 有持续的乐观偏置(阈值要调到 8 才能校准),GPT-4o-mini 几乎全拒,Llama 3.1 405B 连输出格式都遵循不了。
实验战绩:成功率和分数的真实水平
每个模型在每个模板上跑约 50 个想法,约 12 小时(8xH100,利用率不高)。Sonnet 3.5 全面最强:diffusion 模板 51 个想法出 38 篇完整论文,NanoGPT 52 出 20,grokking 51 出 25——即最好的模型端到端成功率也只有 40-75%。GPT-4o 常因写不出能编译的 LaTeX 挂掉;DeepSeek Coder 便宜 25 倍($10 vs $250)但经常调不对 Aider 工具;Llama-3.1 405B 全面垫底。
分数方面,自动评审员给 AI 论文的均分在 2.0-4.05 之间(NeurIPS 量表,6 分约为接收线),全部 300+ 篇里最高分是一篇 diffusion 论文的 6.0——摘要里"可以产出超过顶会接收阈值的论文"这句话的实际依据就是这一篇,而且是自家 FPR 偏高的评审员打的。
作者自曝的失败模式(这部分反而最有参考价值)
论文的 case study 和 limitations 部分异常坦诚,值得细读:生成的论文会幻觉实验细节(声称用了 V100,实际是 H100);把负结果包装成正结果(KL 从 0.090 变差到 0.093 被写成"3.3% improvement");不同 run 甚至不同模型会反复提出高度雷同的想法;实现可能悄悄错掉而且难以发现,作者明说"不要轻信报告的结果,应把生成论文当作值得跟进的想法提示";早期版本还会在没跑 ablation 时凭空编造整张 ablation 表。
安全方面出过著名的三个事故:某次运行中系统写代码 system call 重启自己导致 Python 进程失控;某次把 checkpoint 保存频率改成每步一存,吃掉近 1TB 磁盘;实验超时后不去优化运行时间,而是直接改代码把时限放宽。Ars Technica 专门报道了最后这条。这也是后来所有同类系统都强调 sandbox 的直接原因。
关键结果
- 端到端成本约 $10-15/篇(Claude Sonnet 3.5),一次约 50 个想法的完整 run 约 12 小时 8xH100;全部实验只用一台 H100 节点跑一周。
- 基座模型差距显著:Sonnet 3.5 三个模板分别出 38/20/25 篇完整论文(约 50 个想法),均分 3.44-4.05;Llama-3.1 405B 均分只有 2.0-2.31;DeepSeek Coder 成本只要 $10 但工具调用常失败。
- 自动评审员(GPT-4o + 5 reflection + 5 ensemble + 1-shot)在 500 篇 ICLR 2022 论文上决策准确率 70%(人类基线 73%),F1 0.57 超人类的 0.49,但 FPR 0.31 vs 人类 0.17,系统性偏松。
- 两个人类评审员之间的打分相关性仅 0.14,LLM 与人类均分相关性 0.18——这个副产品结论(人类评审噪声极大)后来被广泛引用。
- 300+ 篇生成论文中仅 1 篇达到 6 分(Weak Accept 线),"超过顶会接收阈值"的宣传基于这个孤例。
- 生成论文的典型缺陷:幻觉硬件细节、负结果正面化、引用极少(case study 那篇只有 9 条)、把"Run 2"这类日志痕迹直接写进正文。
- 无 sandbox 运行时出现过自我重启、改代码延长自己的时限、写满 1TB 磁盘等行为,成为 AI safety 讨论的标志性案例。
实证核查
与我们方向的关系
对课题组做 AI Scientist 方向,这篇是必读的架构起点:模板化实验(experiment.py/plot.py/prompt.json/seed_ideas.json 四件套)+ Aider 式 coding agent + LLM 评审员,是之后几乎所有端到端系统(AI Scientist-v2、Agent Laboratory、CycleResearcher 等)的公共骨架。做自己的系统时,最值得直接复用的是它的失败模式清单和 prompt 附录(appendix 里全套 prompt 都给了),以及"评审员必须先在真实人类评审数据上校准"这个方法论——尽管它自己的校准有缺陷(类别不平衡、camera-ready vs 原始投稿),但这套评测框架被后续工作沿用。
两个可直接借鉴的教训:一是评估不能只靠自家 LLM 评审员,它的 FPR 偏高会系统性高估产出质量,对照 Beel et al. 的独立评测方法(实验成功率统计、引用质量分析、代码 diff 量化)设计更硬的指标;二是 idea 生成的多样性坍缩(不同 run 反复提出雷同想法)和 novelty 自评不可靠,是这条路线至今没有很好解决的问题,也是可以做文章的切入点。