引擎 · RSI 递归自我改进

AI 在改进 AI 自己,走到了第几步

走得最远的是第 3 阶段「AI 加速 AI 研究」:进行中。第 4 阶段——AI 端到端训练下一代——还没有公开证据。

外层:人仍在环里内层:人退出环

一把刻度

被改进的对象由外到内:上下文与记忆 → 脚手架 → 权重与训练流程 → 整个研发。越往里,改动越接近「造出模型的那个过程」,人也退得越远。 四个阶段是分类,不是进度条:阶段之间的距离不相等,走到第 3 阶段不等于完成了四分之三,第 3 到第 4 阶段可能比前三步加起来还远。

阶段名是这里起的;刻度对标外部:前两阶段对应翁荔的五级梯子,后两阶段对应 Anthropic、OpenAI、Google DeepMind 安全框架里共同设下的 AI 研发台阶。

看对标表 →

对标:三家实验室的 AI 研发台阶

三家都在「加速」与「完全自动化」之间设了台阶,阶段 3 因此拆成 3a、3b 两档。

阶段外部台阶现在
1 经验自进化
翁荔 · 五级梯子的前两级:指令优化、结构化上下文管理
已规模化
2 Harness 自进化
翁荔 · 五级梯子的后三级:工作流设计、Harness 代码优化、优化器代码自身的演化
进行中
3a 加速
OpenAI · High:相当于给每位研究员配一个高水平的中级研究工程师
Google DeepMind · ML 研发加速 1 级:AI 进展比 2020–2024 年的速度明显加快(例如 2 倍)
进行中
两家实验室都给出了自测数字(代码 80% 以上由模型写、每个人工工作日对应约 3.1 个智能体工作日),没有第三方复核。
3b 自动化入门研究员
Anthropic · AI R&D-4:能完全自动化一名入门级远程研究员的工作
早期迹象
OpenAI 宣布达成「自动化研究实习生」,但它自己的数据是:4–8 小时的成功任务里,一半以上仍需人工干预。
4 AI 端到端训练下一代 AI
Anthropic · AI R&D-5:有效算力的扩展速度剧增,一年抵过 2018–2024 年平均两年
OpenAI · Critical:完全自动化的自我改进——超人研究员,或以 2024 年 1/5 的时间完成一代模型跃迁
Google DeepMind · ML 研发自主 1 级:以有竞争力的成本完全自动化 AI 研发流程
未发生

来源:Anthropic《负责任扩展政策》v2.2 起;OpenAI《Preparedness Framework》v2(2025-04);Google DeepMind《Frontier Safety Framework》v2(2025-02);翁荔《Harness Engineering for Self-Improvement》(2026-07)。

1经验自进化

已规模化

已经从论文走进产品。ACE 这类「不断改写上下文」的方法在智能体基准上有两位数的提升;各家前沿产品都在把跨会话记忆做成默认能力。门槛已经不是「能不能」,而是经验会不会越积越乱。

它改什么、什么算到达、对科研与物理世界意味着什么
改什么
模型权重不变,改的是它积累的经验:记忆、笔记、技能库、不断改写的上下文。
什么算到达
同一个模型只靠自己积累的经验(而不是人写的新提示词),在同一类任务上可测地变好。
外溢
对世界模型的外溢有限:它记住的是自己的会话历史,不是环境状态(见传导「持久上下文」)。对 AI4S 更直接——科研智能体跨项目积累实验记录,是 AI 科学家从一次性演示走向持续工作的前提。
有实测数据

ACE:让上下文自己演化

Agentic Context Engineering

不动权重,只让模型根据执行反馈不断改写自己的「操作手册」,智能体基准提升 10.6%。

正文与来源

ACE 把上下文当成一本不断增补、修订的操作手册:模型执行任务后,把成功与失败的经验整理成条目写回手册,下一次任务直接带着更新后的手册上场。它刻意避免「每次都把手册压缩成一段摘要」——作者认为那会把细节磨平,越压越空。

结果是在智能体任务上提升 10.6%,金融领域任务提升 8.6%;在 AppWorld 排行榜上,总平均分追平了排名第一的生产级智能体,在更难的挑战集上超过了它(arXiv:2510.04618)。

这是第一阶段的典型样子:没有任何一个权重被改动,变强的全部来源是模型自己积累的经验。

来源
  • ACE 论文:《Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models》,2025-10-06 提交;智能体任务 +10.6%,金融任务 +8.6%arXiv:2510.04618
有实测数据世界模型

Voyager:把技能存成代码库

2023 年的早期样本:在 Minecraft 里把学会的技能写成代码存进技能库,后续任务直接调用。

正文与来源

Voyager 是经验自进化最早被广泛引用的例子之一。它在 Minecraft 里探索时,把每个学会的技能写成一段可执行代码存进技能库,下次遇到类似任务先查库、再组合,不必从头摸索。

论文报告它比此前方法多获得约 3.3 倍的独特物品,解锁科技树关键节点最快快 15.3 倍(arXiv:2305.16291)。它也是世界模型与 RSI 的一个交汇点:它学的是一个游戏世界里的技能,但它并没有学这个世界的动力学模型。

来源
  • Voyager 论文:《Voyager: An Open-Ended Embodied Agent with Large Language Models》,2023;独特物品约 3.3 倍,科技树节点最快快 15.3 倍arXiv:2305.16291

2Harness 自进化

进行中

有扎实的实验数字,但大多停在基准上。达尔文-哥德尔机让智能体改写自己的代码,SWE-bench 从 20% 升到 50%;Meta-Harness 找到的脚手架超过了最好的人工设计。前沿实验室内部是否已在生产中常态化使用,外界看不到。

它改什么、什么算到达、对科研与物理世界意味着什么
改什么
模型权重仍然不变,改的是包在模型外面的那一层系统:工作流、工具调用、上下文管理、评估方式,乃至改进这一切的代码本身。
什么算到达
智能体改写自己的脚手架代码,改写后的版本在留出的基准上稳定优于人工设计的版本。
外溢
这是 AI4S 最先吃到的一层:同一个科研模型,换一套更好的实验编排与自我审稿流程,结果就不一样(DeepMind 的 Co-Scientist 专门加了一个模块,把稿件里每个数字和原始实验日志逐条核对,见 AI4S 线)。
有实测数据

达尔文-哥德尔机:智能体改写自己的代码

Darwin Gödel Machine

智能体反复改写自己的脚手架代码并保留一个不断变大的变体档案库,SWE-bench 从 20% 升到 50%。

正文与来源

达尔文-哥德尔机(DGM)让一个编程智能体修改自己的源码——工具怎么调、上下文怎么管、失败了怎么重试——再用编程基准检验改动是否有效。它不只保留当前最好的一版,而是维护一个不断扩大的变体档案库,从中挑选分支继续演化,避免困在局部最优。

结果:SWE-bench 从 20.0% 升到 50.0%,Polyglot 从 14.2% 升到 30.7%(arXiv:2505.22954)。能成立的前提是编程任务有现成的验证器——跑一遍测试就知道改动是好是坏。

来源
  • DGM 论文:《Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents》,2025-05-29 提交;SWE-bench 20.0% → 50.0%,Polyglot 14.2% → 30.7%arXiv:2505.22954
有实测数据

Meta-Harness:端到端优化模型外面那一层

自动搜索出的脚手架在 TerminalBench-2 上超过最好的人工设计,而且能迁移到没见过的模型上。

正文与来源

Meta-Harness 把「包在模型外面的整套系统」当作优化对象,端到端地搜索更好的版本。三组结果:在线文本分类上比最好的上下文管理系统高 7.7 分且用的 token 更少;检索增强的数学推理上,一个自动找到的脚手架让 200 道 IMO 级题目的准确率在五个留出模型上平均提高 4.7 分;智能体编程上,找到的脚手架超过了 TerminalBench-2 上最好的人工设计(arXiv:2603.28052)。

「在留出模型上也有效」这一点很关键:它说明改进的是脚手架本身,而不是碰巧适配了某一个模型。

来源
  • Meta-Harness 论文:《Meta-Harness: End-to-End Optimization of Model Harnesses》,2026-03-30 提交;作者含 Omar Khattab、Chelsea FinnarXiv:2603.28052
有论证,无实验

翁荔:近期的自我改进走的是 Harness,而不是改权重

一篇系统梳理:从提示词优化到「优化器代码自己演化」的五级阶梯,主张近期 RSI 主要经由 Harness 发生。

正文与来源

翁荔 2026 年 7 月的长文把 harness 定义为「包在基础模型外面、决定它怎么思考与规划、怎么调用工具、怎么管理上下文、怎么存放产物、怎么评估结果的那套系统」,并把自我改进排成一个由浅到深的序列:指令优化 → 结构化上下文管理 → 工作流设计 → Harness 代码优化 → 优化器代码自身的演化。

文章的核心判断是:近期的递归自我改进主要通过 harness 工程发生,而不是模型直接改写自己的权重。RSI 的第一、二阶段正是按这个判断划分的。这是一篇综述性论证,不是新实验,所以标为「有论证」。

来源

3AI 加速 AI 研究

进行中

证据最多的一段。两家头部实验室都公开了自测数字:Anthropic 称合入代码库的代码 80% 以上由 Claude 编写;OpenAI 称研究团队每投入一个人工工作日,对应约 3.1 个智能体工作日,并宣布达成「自动化研究实习生」目标。但这些都是自测、自评,没有第三方复核;普林斯顿的独立实验则发现,智能体在开放式研究的创造性判断上仍明显不行。判断:工程层已大面积自动化,研究判断层没有。

它改什么、什么算到达、对科研与物理世界意味着什么
改什么
AI 开始承担 AI 研发本身的工作:写训练代码、调算子、跑实验、复现论文,也包括自己生成训练数据、给自己打分再训练。人仍然决定研究方向。
什么算到达
有公开数字表明 AI 系统的产出直接缩短了下一代模型的研发周期或训练成本。
外溢
这是 RSI 与 AI4S 共用同一套机器的地方:「AI 科学家」用在 AI 上就是这一阶段,用在生物和材料上就是 AI4S。两边的瓶颈也一样——开放式问题没有便宜的验证器。
有实测数据本期新增

Anthropic:核心代码库九成以上的改动由 Claude 写

年中报告里是「八成以上」,Fable 5.2 发布时升到「九成以上」(有人类指导)。官方口径,衡量的是代码量,不是研究产出。

正文与来源

2026 年 11 月 9 日的 Claude Fable 5.2 发布页写道,合入 Anthropic 核心代码库的改动,现在九成以上由 Claude 编写,前提是有人类指导(官方口径)。年中《当 AI 开始构建自己》报告里的数字是八成以上。

要读清楚它说的是什么:这是合入代码的占比,衡量写代码这一环被接手到什么程度,不等于研究本身被自动化——选题、定标准、判断结果仍由人来做。数字是厂商自报,没有第三方审计。

来源
有实测数据AI4S

AlphaEvolve:加速了训练自己的那个模型

Gemini 驱动的进化式编程智能体,找到的优化反过来加速了训练 Gemini 本身——阶段 3 最早的硬证据之一。

正文与来源

AlphaEvolve 用 Gemini 生成程序变体、用自动评估器打分、保留好的继续演化。它交出的成果横跨数学与工程:为数据中心找到更高效的调度算法,为硬件加速器的电路设计找到等价简化,把 4×4 复数矩阵乘法降到 48 次标量乘法——在这个设定下是 56 年来第一次改进 Strassen 算法(arXiv:2506.13131)。

与 RSI 直接相关的是另一句:它加速了支撑 AlphaEvolve 自身的那个大模型的训练。一个模型参与优化训练它自己的流程,这就是第三阶段的定义。需要注意的是,每一项成果都依赖一个能自动打分的评估器——它擅长的是「目标清楚、能自动验证」的问题。

来源
  • AlphaEvolve 论文:《AlphaEvolve: A coding agent for scientific and algorithmic discovery》,2025-06-16 提交;数据中心调度、硬件电路简化、4×4 复数矩阵乘法 48 次标量乘法,并加速了其底层大模型的训练arXiv:2506.13131
反方有实测数据

反方:智能体在开放式研究上「明确不行」

普林斯顿团队让智能体复做两篇未发表的 NeurIPS 2026 论文:工程执行很强,研究判断很弱。

正文与来源

普林斯顿的 Peter Kirgis 与 Sayash Kapoor 等人用 Claude Opus 4.8 尝试完成两篇尚未发表的 NeurIPS 2026 论文的研究工作。结论是:智能体擅长工程任务,但在研究本身上「明确不行」——在极小的数据集上跑出奇怪的实验,凭不充分的证据否掉有希望的假设,对失败的路线只能做小修小补,无法推倒重来(据《麻省理工科技评论》2026-08-18 报道)。

Anthropic 联合创始人 Jack Clark 在同一篇报道中说,公司在尝试自动化 AI 安全研究时看到了类似的局限,并称缺乏创造性是对「短 RSI 时间线」的一个看空信号。Kapoor 给出的解释与验证器主轴一致:能用自动指标做强化学习的任务,模型进步很快;任务本身开放时,连训练环境都难以构造。

来源
更早的 3 条证据
有实测数据

OpenAI 宣布达成「自动化研究实习生」

OpenAI 称研究团队每个人工工作日对应约 3.1 个智能体工作日;数字全部自测自评。

正文与来源

2026 年 9 月 6 日,OpenAI 发文宣布达成去年秋天定下的目标:到 2026 年 9 月拥有一个「自动化研究实习生」,定义是「能在人的指导下完成边界清楚的研究任务,包括熟练研究员需要花几天的任务」。

三组数字(均为官方口径):截至 2026 年 8 月中旬,按全研究部门编程智能体的总运行时长折算,每投入一个人工工作日对应约 3.1 个智能体工作日;研究员日均推理花费的中位数超过 600 美元(按 API 价格),第 90 百分位超过 7,000 美元;过去六个月,成功完成的 4–8 小时任务中超过一半需要一次以上人工干预。下一个目标是 2028 年 3 月的「自动化 AI 研究员」。

要说清楚:这是自测、自评。OpenAI 自己在附录里承认,这些指标「容易收集,但难以解释」,与研究进展的关系并不确定。「智能体工作日」衡量的是投入,不是产出。

来源
有实测数据

Anthropic:《当 AI 开始构建自己》

合入代码库的代码 80% 以上由 Claude 编写;代码优化任务上的提速从约 3 倍升到约 52 倍。均为官方口径。

正文与来源

Anthropic 2026 年年中发布的这份报告,是目前前沿实验室对「AI 加速 AI 研发」披露得最细的一份。几组数字(官方口径):合入 Anthropic 代码库的代码 80% 以上由 Claude 编写;工程师人均每季度交付的代码量是 2021–2025 年的 8 倍;在代码优化类任务上,AI 带来的提速从 2025 年 5 月的约 3 倍升到 2026 年 4 月的约 52 倍;在研究中「下一步该做什么」的判断上,Claude 被评为优于人类的比例从 2025 年 11 月的 51% 升到 2026 年 4 月的 64%。

报告同样写明了还没发生的事:Claude 在「选择研究目标」上仍有明显差距;在自主研究的演示里,问题和打分标准仍由人来定。它把「智能体构建并训练模型」画在时间线末端,时间写作「20XX?」。报告还提出,世界应当拥有在可验证的多方协调下放缓或暂停前沿开发的选项。

来源
有实测数据AI4S

AI Scientist 登上《自然》:全自动写出的论文通过同行评审

Sakana 的系统从想法到写论文全自动完成,一篇通过了顶会工作坊首轮评审——但只是工作坊,接收率约 70%。

正文与来源

Sakana AI 与不列颠哥伦比亚大学、Vector 研究所、牛津大学合作的 AI Scientist,能把科研全流程串起来:提出想法、写代码、跑实验、画图分析、写完整论文,再自己审稿。改进后的 v2 版本生成的一篇论文通过了一个顶级机器学习会议工作坊的首轮同行评审,这是第一篇完全由 AI 生成并通过人类同行评审的论文。相关工作 2026 年发表于《自然》(Nature 651, 914–919)。

要把分量放准:那是工作坊而不是主会,接收率约 70%;研究题目限定在机器学习,恰好是实验便宜、结果可自动检验的领域。它同时是 AI4S「AI 科学家」方向的样本——同一套机器,研究对象换成 AI 自己,就是 RSI 第三阶段。

相关Sakana AI
来源
  • 《自然》论文:Lu, C. et al.《Towards end-to-end automation of AI research》,Nature 651, 914–919 (2026)Nature s41586-026-10265-5

4AI 端到端训练下一代 AI

未发生

没有任何公开证据表明它已经发生。Anthropic 把它画在自家时间线的末端,时间写的是「20XX?」;OpenAI 把「自动化 AI 研究员」的目标定在 2028 年 3 月。这一格目前只有主张。

它改什么、什么算到达、对科研与物理世界意味着什么
改什么
从选择研究方向、设计实验到训练并评估下一代模型,全过程不需要人。
什么算到达
有实验室公开承认,某个已部署的模型主要是由上一代模型自主研发并训练出来的。
外溢
如果发生,它对 AI4S 和世界模型的影响是间接的——研发速度整体变快;但物理世界那一侧的瓶颈(真机实验、湿实验)不会因此变快,这正是判断「物理世界最后成熟」的理由。
仅有主张

阶段 4 目前只有时间表

OpenAI 把「自动化 AI 研究员」定在 2028 年 3 月;Anthropic 的时间线上这一格写的是「20XX?」。

正文与来源

目前没有任何公开证据表明,某个已部署的模型主要是由上一代模型自主研发和训练出来的。这一格能写的只有目标:OpenAI 公开的下一个里程碑是 2028 年 3 月实现「自动化 AI 研究员」;Anthropic 在《当 AI 开始构建自己》里把「智能体构建并训练模型」列为最后一步,没有给出时间。

出现以下任一情况,这一格就会上调:实验室公开承认某个已部署模型的主要研发工作由 AI 自主完成;或者有第三方能复核的、AI 自主完成一次完整预训练加后训练并超过起点的实验。

来源

为什么先发生在代码上

一篇 2026 年的综述梳理了 1250 篇相关论文,把自我改进用到的评估器排成一个强弱序列:最强的是形式化验证器,最弱的是模型给自己打分(arXiv:2607.07663)。这句话解释了 RSI 为什么先在代码和数学上发生:改完一版代码,测试立刻告诉你有没有变好;改完一步证明,检查器立刻判定对错。「判断有没有变好」几乎不要钱,自我改进的环才闭得上。

所以 RSI、科研与物理世界可以放在同一把尺子上:科研有模拟和湿实验,验证要几天到几个月;物理世界只有真机,验证又慢又贵还不可重复。验证器越贵,自我改进的环越难闭上,那个领域就越晚成熟。

来源
  • RSI 综述:《Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops》,2026-07-08 提交;梳理 1250 篇论文,评估器按强弱排序arXiv:2607.07663

递出去的

RSI 这一侧发生的事,传到了科研与物理世界。

递归自我改进有实测数据RSI → 世界模型