--- layout: post.njk source: https://yage.ai/share/self-improving-ai-2d-field-20260829.html speaker: yage.ai title: 自我改进 AI：一个被压扁的二维场 date: '2026-08-29' summary: 文章探讨了自我改进AI领域从实验室术语到融资热点的现状，分析了不同系统（如autoresearch、AIDE²、RSI）在工程实现上的差异，并提出了一个系统认知框架。该框架建议通过考察‘改什么’（修改对象）和‘靠什么信号’（验证信号强度）两个维度，来定位不同AI系统在自我改进体系中的真实坐标，从而理解其技术瓶颈和发展阶段。 area: tech-engineering category: ai-application tags: - self-improvement - agentic-workflow - evaluation-signal - system-architecture - code-evolution people: [] companies_orgs: - OpenAI - Anthropic - DeepMind - Karpathy - Weco - RSI - Sakana - Poetiq products_models: - Recursive Superintelligence (RSI) - GPT-5.6 Sol - Luna - AlphaEvolve - DGM - Metasystem - AIDE² - Claude media_books: [] draft: true status: evergreen --- ## 第一反应：哇好厉害 2026 年上半年，自我改进 AI 从实验室术语变成了融资新闻的标题。5 月，Recursive Superintelligence（RSI）出 stealth：$650M 融资、$4.65B 估值，8 位 co-founder 里有 Richard Socher 和田渊栋。同一周，Karpathy 开源的 autoresearch 让一个 agent 一夜跑 100 个实验。7 月，OpenAI 演示 GPT-5.6 Sol 自主完成另一个模型的后训练，RSI 又签了 $410M 的 AWS compute 协议。Socher 在 TechCrunch 采访里谈公司扩张：“less about headcount and more about agent count”。 这些新闻接连冒出来，第一反应难免是：AI 真的开始自己改自己了，这大概是只有 frontier lab 才能碰的圣杯。这种兴奋有事实支撑，但如果顺着直觉走，容易把好几种不同的工程实践直接压进同一个词里，在把门槛无形拔高的同时，也遮蔽了这个领域的真实面貌。 坐下来把市面上能找到的系统逐个看一遍，就会发现标题没告诉我们的几件事。这个领域比表面上看起来更真实、更可及，也更拥挤。从 $8M seed 轮的 Weco 到 $650M 的 RSI，再到前沿实验室的内部项目，这里的探索覆盖了很宽的跨度；小团队已经在产出可验证的真实价值，比如 Weco 的系统击败了人类工程师手工调优 2 年的基线。这里的进展也相当扎实，不仅在基准测试上刷新着 SOTA，Anthropic 自 2026 年 5 月起合入官方代码库的代码也有 80% 以上由 Claude 编写。投资机构 NEA 甚至把自我改进系统单列为一个独立的细分赛道，盘点出了 7 家代表公司。 正因为这个领域既真实又拥挤，各家的工程路线各不相同，才需要一副能看清全局的定位镜头。把看似庞杂的系统拆成改什么与靠什么信号验证这两个维度，价值在于帮我们超越零散的新闻记忆，建立起对整个领域的系统认知。透过这个坐标系，能看清不同公司各自的技术信念，理解它们认为瓶颈究竟在哪里、各自在押注什么方向。有了这副镜头，面对任何新发布的技术声明或初创公司，都能把它放进对应的格子里，看懂整个领域的分布，看穿背后的主要逻辑。 在把所有玩家排进全景矩阵之前，不妨先从三个最具代表性的系统看起。同样顶着自我改进的光环，它们在具体的工程实现上，其实在做三件完全不同的事。 ## 同一个词，三件完全不同的事 如果把几个同样挂着自我改进标签的系统放在一起跑一跑，会发现它们做的事情差得非常远。最轻量的是 Andrej Karpathy 开源的 autoresearch。它的设计简单：智能体只去动一个叫 train.py 的代码文件，里面放着 GPT 模型的结构定义、优化器配置和训练循环。智能体每改完一次代码，就跑一次 5 分钟的微型训练，看验证集上的压缩损失指标 val_bpb（即 bits per byte，每字节比特数，数值越低代表模型压缩与预测质量越好）。指标降了就保留，升了就直接回滚，接着做下一次尝试。系统一小时大概能跑 12 个实验，通宵运行一夜就能积累约 100 次迭代。人类在整个过程中，只负责在 program.md 文档里写好指导规则。在 Karpathy 的测试里，针对 depth=12 的 nanochat 模型连续跑了大概 2 天，autoresearch 自动找到了约 20 个能降低验证损失的代码修改点，而且这些改动全部成功迁移到了规模更大的 depth=24 模型上。 往上走一层，是 Weco 做的 AIDE²。它用的是双层循环架构：内层的智能体对照既有的 eval 评估集去调试和优化具体业务代码，外层循环则专门回过头来修改和优化内层智能体用的 harness 脚手架。在一次长达 8 天、人类完全无人值守的测试里，外层循环连续执行了 100 个步骤，系统自动淘汰了大约 90% 没通过验证的提案。跑完这 8 天自主迭代出来的 AIDE85 版本，在 MLE-Bench Lite 等三个标准基准测试里的得分，击败了人类工程师团队耗费 2 年手工调优积累出来的 AIDEhuman 基线版本。 到了拿了大额融资的 RSI 公司，动手的范围又不一样了。很多人直觉上以为模型在改自己的权重，但 RSI 修改的是训练脚本、模型架构源代码，以及底层的 GPU kernel。在官方首篇技术文章公布的 3 项基准测试中，系统在 NanoChat 任务上实现了 1.3 倍训练加速，在 NanoGPT 上将训练耗时从 79.7 秒压缩到了 77.5 秒，并在 SOL-ExecBench 基准测试中把运行表现与硬件理论物理极限的差距缩小了 18%。整个系统按照标准的科研闭环运转：自主提出假设、编写代码、部署运行实验、收集结果，再利用反馈规划下一个实验。在 NanoGPT 的优化案例中，最终方案在约 200 行代码改动中同时横跨了上层的训练脚本与底层的 kernel 文件。 把这三个系统摆在一起，差异就清楚了：Karpathy 动的是单文件代码，靠 5 分钟微型训练的单一标量数值驱动，依赖人工编写顶层规则；Weco 转向了智能体的运行脚手架，依靠公开与私有交叉的双重评分，实现了 8 天不看屏幕的自主运行；RSI 则做到了横跨训练代码与算子 kernel 的系统级搜索，把人类放在设定目标与审查输出的边界层。 要理顺这些形态各异的系统，最直接的切入点就是先看清楚：它们在迭代过程中，改的究竟是什么。 ## 第一维：改的是什么 说到自我改进，直觉上最容易让人联想到的，是模型直接修改自身权重。但真正落到实际工程探索里，改动对象其实分布在几个清晰的层级上。 最直接的确实是权重。不过即便在权重这个层面上，目前的探索也展现出分工协作的特点，而不是模型自己改自己的参数。2026 年 7 月，OpenAI 在一次技术演示中展示了这样一个过程：GPT-5.6 Sol 通过 Codex 接收了一条描述为 “fairly under-specified prompt” 的模糊指令，随后完全自主接管了另一个小型模型 Luna 的后训练全流程。Sol 在没有人类干预的情况下自主挑选训练配置、分配 GPU 算力、启动训练脚本并监控指标。OpenAI 研究员 Kathy Shi 对此评价道，这类繁琐的后训练工作在过去 “是一个 senior researcher 团队的活，现在 automated researcher 已经很接近了”。在这个案例中，Sol 改进的是独立模型 Luna，没有改动 Sol 自身的权重。 顺着这个逻辑往下看，更多系统并不碰运行时的网络参数，而是直接演化承载算法与工程逻辑的源代码。前面提到的 Karpathy autoresearch 就是单文件代码演化的代表，通过反复编辑 train.py 探索更优结构。在工业级前沿探索中，DeepMind 的 AlphaEvolve 也走在同样的路径上。AlphaEvolve 是由 Gemini 驱动的代码进化智能体，配备了自动评估器来验证答案正确性。在实际业务中，AlphaEvolve 优化出的计算 kernel 让 Gemini 训练提速 23%（一周年回顾）。它的机制我之前单独写过一篇：LLM 负责提出候选，进化框架决定谁存活，真正的突破在于把这两件事分开。 除了算法代码本身，还有一批团队意识到：大模型能力的发挥高度依赖外围工程环境，因此把修改焦点放在了工具链与执行环境上。日本初创团队 Sakana（专门设了 RSI Lab）研发的 DGM（全称 Darwin Gödel Machine）展现了这种工具层面的进化。在保持大语言模型权重冻结的前提下，DGM 允许智能体自主修改自身的 Python 代码库，包括重写工具接口、优化工作流和重新设计验证检查点。在实测中，DGM 将 SWE-bench 的解决率从基线的 20.0% 提升到了 50.0%。Sakana 的商业化方向是另一个产品 Fugu，把多智能体编排训练进了模型权重，之前也拆过。商业初创公司 Poetiq 也贯彻了这一路线，官方明确表示其发布的所有 SOTA 表现均未调整任何大模型底层参数，旗下的 Metasystem 专注于优化各个基准任务的 harness 环境与自身工作流逻辑。 在头部大模型实验室内部，脚手架与工程代码的自动化生成同样在快速渗透。Anthropic 公布的官方数据显示，自 2026 年 5 月起，合入其官方代码库的代码中已有 80% 以上完全由 Claude 编写。在 Anthropic 内部进行的一项受限实验中，研究人员让 Claude 尝试优化一段小型模型的训练代码：2025 年 5 月发布的 Opus 4 在该任务上实现了约 3 倍加速，到了 2026 年 4 月，Mythos Preview 在相同代码上达成了约 52 倍提速。不过 Anthropic 官方在报告中特意注明，这属于微型实验，不能简单外推为通用的加速能力。 但在所有这些改动对象里，最容易被公众讨论忽略、却在实际系统构建中构成关键瓶颈的，是评估器。一份涵盖 1250 篇 arXiv 论文的大型综述报告将 self-evaluation 单独列为一个核心类别，共收录了 318 篇专门论文，其中 82% 集中发表于 2026 年。综述作者在分析大量失败案例后指出：“one bottleneck recurs everywhere: the evaluator.” 仅在 2026 年，业内就涌现出了至少 5 个独立架构，专门探索评估器与被评估模型之间的协同进化。修改评估器虽然缺乏轰动眼球的噱头，却是一条决定整个自我改进体系能否成立的独立赛道。 ## 第二维：靠什么信号改 讨论自我改进时，很多人的第一反应是按照数据来源来做区分：是用海量代码数据、模型生成的合成数据，还是专家标注的数据。商业化团队 Poetiq 在推广中就将真实业务数据作为核心卖点，向企业客户强调只需提供实际业务问题以及几百个真实样例就足以启动优化，不需要传统微调或强化学习依赖的几千条到几百万条标注样本。 但数据来源并不能构成有效的分类维度。两套同样使用代码数据的系统，如果验证机制不同，最终的改进能力可以相差一个数量级；即便喂入高标准的专家标注数据，若缺乏明确的验证信号，系统也容易在复杂任务中反复打转。真正决定系统能否持续演进的，是完成改动后获得的验证信号强度，也就是依靠什么来确认这次修改确实有效。 在那份涵盖 1250 篇文献的学术综述中，研究者将验证信号从强到弱梳理出了五个层级： 最扎实的一层是 formal verifier，形式化验证器，提供数学证明级别的确定性对错反馈，没有任何模糊空间； 往下是计算环境给出的执行反馈，包括代码能否编译运行、能否通过单元测试、在基准测试中得分是否发生客观变化； 再往下是奖励模型，利用带有评分倾向的数据集训练出的专用打分网络，对开放输出给出连续的质量预估； 若没有专门的奖励模型，就退到由另一个独立的通用大模型充当 LLM judge，进行主观审阅与打分； 而最弱的一层则是自评估，由做出修改的同一个模型对自己产出的结果进行评价。 验证信号强度从 formal verifier 到自评估分成五级递减，已证实的自我改进强度跟着这条梯度走，最弱的自评估一格最容易被自我肯定污染 综述的实证分析表明，所有经实验证实的自我改进强度，都严格沿着这条验证信号梯度递减。在信号最弱的自评估一侧，SkillsBench 测试集提供了一组清晰的对照：使用人类专家编写的 skills 可以让模型的任务通过率提升 16.2 分，而由大语言模型自己生成的 skills 在实测中完全没有带来任何可测量的性能增益。系统同时充当选手与裁判，验证信号极易失真。一个更完整的公开案例是 Dan Austin 的 ai-trains-ai，它把外层训练智能体、内层后训练和隐藏评测接成了反馈回路，但评估器一度量错了，reward 照样上涨，我之前拆过这篇。 这 1250 篇论文在分类时也提炼了一个高度同构的双轴框架：第一维聚焦于修改对象，细分为 393 篇探讨部署期自我进化、340 篇探讨训练期自我迭代、318 篇针对自我评估以及 139 篇关于自动研究的论文；第二维则考量对人类干预的依赖程度，分为人类在环内（每一步修改都需要人工确认）、人类在环上（人类仅负责设定边界目标并审核输出）以及系统完全自主闭环三档。 学术界在庞大论文样本上提炼出的分类框架，与工业界的实际走向高度吻合。在这张全景坐标中，人类介入的闭环程度可以作为单元格内的属性，标明系统在实际运行时依赖环内人工、环上把控还是脱离人工闭环。 把改动对象和验证信号结合起来，会发现整个领域的玩家与项目密度呈现出鲜明的分布特征：在代码编写、算子优化与标准化基准测试这些能够提供高强度执行反馈的格子里，聚集了高密度的探索者，autoresearch 谱系、DGM 谱系、Poetiq 以及 Weco 全部挤在这一带；而在开放式科学探索这类缺乏确定性验证信号的高难度格子里，探索分布十分稀疏，完全闭环的自动研究项目显得格外单薄。 ## 矩阵：每个人在哪里 把这两个维度放在一起，就能把目前行业内具有代表性的主要玩家放入同一张全景矩阵中。从开源最小实验到数亿美元融资的创业团队，再到头部大模型实验室的内部工具，各自在改什么、靠什么验、人退到了哪一步，都一目了然： Player 改什么 验证信号 人在哪 定位 Karpathy autoresearch 单文件 train.py 执行反馈，val_bpb 环内 开源最小载体 Weco AIDE² agent harness 公开/私有双评分 环上 $8M seed RSI（recursive.com） 训练代码/GPU kernel 发布 benchmark 环上 $650M @ $4.65B OpenAI（Sol→Luna） 权重（另一个模型） 执行反馈 演示级 frontier lab 内部 Anthropic harness/训练代码 执行反馈（miniature 实验） 环内 frontier lab 内部 DeepMind AlphaEvolve 程序/算法 自动评估器 环上 frontier lab 内部 Meta Hyperagents 自身程序，metacognitive benchmark 环上 FAIR 研究项目 Sakana DGM 自身 codebase coding benchmark 环上 研究 + 商业化 Poetiq harness + 自身代码 真实任务数据 + benchmark 环上 $45.8M seed 自我改进 AI 的玩家密度集中在可验证的执行反馈列，formal verifier 和自评估两列几乎空着，密度由可验证性决定 从资本与市场结构来看，投资机构 NEA 在行业研报中已经将自我改进系统单独列为一个新兴创业细分，统计了 7 家代表性初创企业。这些团队的融资跨度分明，从 Weco 的 $8M seed、Poetiq 的 $45.8M seed，一路延伸到 RSI 的 $650M 融资（$4.65B 估值）。需要区分的是，市场上还有一家专注于芯片设计自动化（EDA）的软件公司 Ricursive Intelligence，完成了 $335M 融资（$4B 估值），虽然名称与缩写相似，但属于独立的商业实体。 整张矩阵中的玩家密度分布，很清楚地反映了可验证性带来的约束。执行反馈与标准化基准测试两列汇聚了市场上绝大多数活跃的工业界玩家；形式化验证器一列由于技术门槛与适用边界极高，落地案例非常少；而在完全依靠自评估的末端区间，工业界基本没有产生严肃的商业化实践。 更关键的是，行业目前普遍面临着 Level 1 的天花板限制。Weco 团队在技术路标中梳理过一个清晰的四级演进阶梯： Level 0 是 delegation，委托代理：系统作为辅助工具，关键决策由人类敲定； Level 1 是 net positive，净正向收益：改动能带来确定的性能提升，但执行修改的智能体自身能力并未变强； Level 2 是 ignition，点火启动：负责改进的智能体自身能力随迭代增强，推动系统进入正向自我加速的飞轮状态； Level 3 是 inflection，全面拐点。 对照这一标准，当下的所有玩家和系统其实都停留在 Level 1 阶段。最早提出这一梯度的 Weco，在尝试冲击 Level 2 的内部测试中也受阻了：他们让演化生成的 AIDE47 模型作为外层循环来指导自我改进，实验表明这种组合仅仅加快了搜索生成的速度，产出的方案在最终质量上并没有展现出统计学意义上的显著优势。Weco 首席执行官复盘指出，构建无限嵌套的 meta-loop 所消耗的算力与工程成本，在实际运行中会呈现出指数级膨胀。 所有自我改进玩家都停留在 Level 1 净正向这一档，Level 2 点火档的测试失败了，负责改进的 agent 本身没有变强 在学术界的前沿探索中，已发表论文里最接近无人全流程闭环的代表性系统是 A-Evolve-Training。该系统尝试自主跑完一个 30B 参数规模模型的完整后训练流程，在持续数周的 4 轮迭代中完全保持无人干预运转，最终在评估指标上取得 0.86 分，接近顶尖人类专家手工调优的 0.87 分。系统甚至展现出自行检测代理指标与真实表现脱钩并主动纠偏的能力。但作为 1250 篇论文中探索边界最靠右侧的前沿样本，它依然无法脱离外部预设基准的校准，算不上完全脱离外部干预的闭环系统。 来自反方的实证检验同样指向同一个信号。普林斯顿大学开展过一项 shadow evaluation 实验：研究团队让 Claude Opus 4.8 在 6 天里做开放式研究，预算 3000 美元加 GPU，最终生成的两篇论文被原作者按会议标准直接拒绝。 知名 AI 行业观察者 Jack Clark 将普林斯顿的评估结果解读为短期内递归自我改进时间线上的显著降温信号。CSET 主任 Helen Toner 也对当前宣传提出了质疑：“I think that is different from the classic definition of RSI, which is really that there are no humans needed.” MIT Tech Review 在 2026 年 8 月同样发表了深度综述，标题直指 “AI’s recursive self-improvement might not come so quickly after all”。 把这些降温证据放回坐标矩阵中，会发现所有的受挫案例与反方实证，全部集中分布在缺乏客观验证信号的开放式研究格子中。强验证信号格子里的高密度聚集与开放式研究格子里的遇阻，在工程机理上恰好互为印证。 ## 怎么用这张地图 面对层出不穷的自我改进突破宣传或融资新闻，我后来发现，不管公关通稿写得多宏大、估值报得多高，只要顺着三个具体的问题去定位，很快就能把一个新系统放进地图里： 第一，该系统修改的对象究竟是什么？是神经网络的权重参数、具体的训练和架构代码、智能体运行的 harness 脚手架，还是处于瓶颈位置的评估器？ 第二，该系统依赖什么强度的信号来验证改进的有效性？在形式化验证、执行反馈、奖励模型、大模型裁判到自评估的五级梯度中，它究竟落在哪个层级？ 第三，人类工程师在整个系统运作中处于什么位置？是每步确认的环内、只管边界的环上，还是系统宣称的完全脱离人工？ 理清这三个问题，任何宣称实现了自我改进的技术方案在地图上的真实坐标就会清晰呈现。判读准则其实不复杂：一旦看到类似实现了递归自我改进的声明，首先去探查其背后的验证信号强度。如果验证信号建立在形式化验证器或严格的代码执行反馈之上，这项声明具备坚实的工程基础，可以进一步结合基准测试数据审视；如果验证信号主要依靠模型自身的自评估或模糊的主观打分，这类声明往往更多属于商业层面的包装。 在这张地图的边缘，还留下了一个核心空白。在涵盖 1250 篇论文的系统综述中，学者们列出的头号未决科学问题是 grounding 的交换率：理论分析表明纯粹无外部交互的闭环系统必然会发生模型退化，因而在实际工程中各团队普遍通过临时掺入外部真实信号来维持系统的演化方向；但究竟需要维持多大比例的外部最低信号输入率才能确保系统不发生能力衰减，目前整个行业尚未进行过精确的定量测算。Level 2 的点火启动阶段到底需不需要这种外部信号的持续注入、究竟需要多少外部信号作为支撑，依然是整张地图上最空旷、有待持续观察的核心未知数。