DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines
这是什么
2023 年时构建多步 LM 系统的主流做法是手写长 prompt 模板,再靠试错微调字符串。论文把这类做法类比成"手工调神经网络权重":一段针对某模型调好的 prompt,换 pipeline、换 LM、换数据域就可能失效。DSPy(Demonstrate-Search-Predict 框架的第二代)提出用编程模型取而代之:LM 流水线是一张 text transformation graph,prompt 不再是手写常量,而是可以被优化器自动生成和选择的参数。
整个编程模型只有三个抽象:signature(自然语言类型的函数签名,声明这一步"做什么")、module(实现签名的参数化组件,如 Predict、ChainOfThought、ReAct,可像 PyTorch 层一样任意组合)、teleprompter(优化器,拿程序 + 少量训练样例 + metric,返回一个编译后的新程序)。设计上处处对标 PyTorch 的 define-by-run:先声明模块,再在 forward 里用任意 Python 控制流把它们连起来。
要注意论文和今天的框架是两个时间切面:论文验证的是 2023 年的 BootstrapFewShot 一族优化器和 GPT-3.5/Llama2-13b 时代的模型;此后 API 大改(teleprompter 更名 optimizer),主推优化器已换代成 MIPROv2(arXiv 2406.11695)和 GEPA(arXiv 2507.19457,本目录已收)。读这篇论文的价值在于理解"prompt 即参数、pipeline 即程序、优化即编译"这套范式的原始设计。
机制与做法
Signature:用字段名声明任务,而不是写 prompt
一个 signature 就是一组输入/输出字段(可带可选指令),简写如 "question -> answer" 或 "context, question -> search_query"。字段名本身携带语义:DSPy 会把 english_document -> french_translation 自动展开成英译法的提示词,并负责结构化格式与解析,避免用户程序里脆弱的字符串拼接。dspy.Predict("question -> answer") 一行就是一个完整可运行的 QA 程序。
Module:把 prompting 技术泛化成可组合、可参数化的层
核心模块 Predict 存三样东西:signature、所用 LM、demonstrations 列表(初始为空)。ChainOfThought、ProgramOfThought、MultiChainComparison、ReAct 等内置模块把文献里的 prompting 技巧翻译成对任意 signature 通用的函数——实现都只有几行:比如 ChainOfThought 只是在签名前插入一个 rationale 输出字段再调 Predict。每个模块的可优化参数有三类:调用哪个 LM、指令/字段前缀、以及最重要的 demonstrations(对 frozen LM 是 few-shot 例子,对小模型是微调数据)。
论文附录 D 对照展示了社区流行库里动辄几百行的手写 reasoning prompt——DSPy 的立场是这些都应该由编译器针对具体 pipeline 和 LM 自动生成。
Teleprompter(编译器):三阶段优化
阶段一,候选生成:递归找出程序里所有 Predict 模块,用 teacher 程序(默认就是待编译程序的 zero-shot 版)在训练输入上模拟运行,透明地记录每个模块的多阶段 trace,用 metric 过滤,通过的 trace 就成为各模块的候选 demonstrations——本质是拒绝采样。关键的标签效率:训练样例只需要最终输出的标签(甚至可以没有,取决于 metric),中间步骤的"标注"全部自举出来,所以换 pipeline 只需重新编译,不需重新标数据。
阶段二,参数优化:对候选 demonstrations/指令做离散搜索,论文用随机搜索和 Optuna(TPE);BootstrapFinetune 则把 demonstrations 变成微调数据直接更新小模型权重。阶段三,高阶程序优化:改变程序控制流本身,论文只用了最简单的 ensemble(多份自举程序并行跑 + majority voting)。
teleprompter 可组合:设 teacher=compiled_rag 就能用大模型编译出的程序去监督小模型(如 Flan-T5-large)的微调,构成"贵程序教便宜程序"的蒸馏链。
实验设置与成本
两个 case study:GSM8K 数学题(200 训练 / 300 dev / 1.3k test)和 HotPotQA fullwiki 多跳问答(ColBERTv2 检索 Wikipedia 2017 abstracts)。所有程序都只由 2-4 个通用模块组合而成,没有任何任务特定的手写 prompt。编译在分钟到几十分钟量级:即使最贵的设置也只需运行程序几千次(10-20 个 trial × 150-300 个验证样例),可并行。
关键结果
- GSM8K(dev):GPT-3.5 vanilla zero-shot 24.0% → CoT+bootstrap 80.3% → CoT+ensemble 88.3%;Llama2-13b-chat 从 7.0% → 49.0%(reflection+ensemble)。test 集上代表性设置分别为 81.6% 和 46.9%。
- 自举 demonstrations 追平人类专家:CoT 用人写 reasoning chain(+human_CoT)得 78.6%(dev),bootstrap 不用人写链得 80.3%——支撑了"可以砍掉手工 prompt"的核心主张。
- HotPotQA(dev,answer EM):简单两跳 multihop 程序 + bootstrap 达 GPT-3.5 48.7% / Llama2-13b 42.0%,ensemble 后 54.7% / 50.0%;编译后的 13b 开源模型追平未编译的 GPT-3.5。ReAct 上 bootstrap×2(39.0%)超过人写示范(33.0%)。
- 蒸馏到 770M 的 T5-Large:只用 200 个有标签样例 + 800 个无标签问题,BootstrapFinetune 编译出 39.3% EM / 46.0% passage accuracy(dev),推理成本比调 GPT-3.5 低几个数量级。
- 同一段程序代码在两个差距巨大的 LM 上都能编译出接近各自最优的 prompt,支撑"程序 + 编译器"比"字符串 prompt"更可移植的论点。
- ICLR 2024 spotlight;Semantic Scholar 引用 949(2026-08)。
实证核查
与我们方向的关系
这是"用程序化方法自动改进 AI 系统"(ai4ai)这条线的地基:它第一次把 prompt、demonstrations、乃至小模型权重统一成同一个优化问题的参数,把"调 prompt"变成"跑编译"。目录里的 GEPA 就是作为 DSPy 优化器发布的,MIPROv2 也是——不理解 signature/module/optimizer 这套抽象,就看不懂后续这一族工作在优化什么。
可直接借鉴的三个机制:(1) 拒绝采样式 bootstrap——用 metric 过滤成功 trace 作为中间步骤的免标注监督,这个想法在任何多步 agent 的自我改进里都能复用;(2) metric 本身可以是另一个 LM 程序,评价器和被评价者同框优化;(3) teacher=编译后的大模型程序 → 蒸馏小模型的 compile 链,是低成本部署的现成配方。做实验时的实用提醒:直接用 2026 年的 DSPy + MIPROv2/GEPA,论文里的 BootstrapFewShot 只当 baseline。