「接近自我构建的 AI」缺的不是宣言,是三把尺
Anthropic 在招股书里自报逼近 RSI 门槛,这个时间信号外部无法复算;同周三篇 arXiv 论文把自我改进循环拆成三处可测量的刻度——撤除技能后的成绩保留、效用交互密度、采样失配的失效阈值。
Anthropic 本周一在修订版招股书 S-1A 的风险因素里写下一句此前从未出现在监管文件中的话:内部估计与对未来模型的预期表明,公司即将达到负责任扩展政策里「可归因于 AI 的急剧加速」的定义门槛。这是 RSI(递归自我改进)第一次以时间信号的形式出现在招股书层面。问题在于,这个信号指向的是内部估计和未发布的下一代模型,外部既看不到门槛的复算方式,也量不出「即将」的距离。
招股书自己在同一处留了两个限定:其一,尚未将任何现有模型认定为越过该门槛;其二,即便技术上变得可行,公司也不预期能在没有实质性人类监督的情况下,安全地让 Claude 全自主设计并构建后续代际前沿模型,并称正在考虑更新负责任扩展政策以保持人类对前沿模型研发的掌控。招股书兼具披露与营销两种功能,「接近能自我构建的 AI」这类表述两边都沾。
把视线移到论文侧,同一周的 arXiv 上,「自我改进的循环」正在被拆成三处可以测量的刻度。产业侧给的是日期,论文侧给的是尺。
第一把尺:改进算不算数,看撤掉脚手架之后
港中深的 R²Orch 把「递归自我改进」做成了一个可审计的循环。内环是自博弈:Proposer 选任务,Director 带着技能去执行;外环改的是「内环怎么改」——每个 rollout 组里随机藏起一个技能,让同一次自博弈变成对照实验,技能的贝叶斯后验掉到阈值以下就把它撤除,全部过程零额外 rollout。整个循环的终点是零技能部署:失败蒸馏成技能,技能蒸进参数,撤掉技能后 Proposer 被推向新的失败,模型向不依赖任何技能库的方向移动。
结果表里最值得读的不是分数,是测试条件:R²Orch 在十二个基准上全部以零技能状态应考。分布内平均 89.79,比最强基线 PATS 的 86.00 高 3.79 个点;AIME 2026 上 81.33 对 74.00;分布外平均 78.79 对 SESA 的 73.44,SWE-Bench Resolved 42.81 对 37.81。
对照设置本身也值得抄:所有基线与 R²Orch 共享冻结的 Worker、训练任务与算力预算,各自取最优配置,每个测试集 128 题(AIME 2026 为 30 题)。分数之外的贡献是方法论:以往的自改进系统在技能在场时测量前沿,技能一撤优势就塌回全错 rollouts(作者称之为 advantage collapse);R²Orch 的 Recursive Learnability 目标专挑「撤掉技能后 rollouts 仍能到达不同结局」的任务,等于把「这次改进有没有真的进参数」变成了带对照的判断,而不是一个噪声分数。
对照 Anthropic 的表述,这把尺量的是同一个问题:一次自我改进的成果,撤掉脚手架之后还剩多少。
第二把尺:扩展的坐标不是总算力,是交互密度
这一侧的论文标题本身就是一个问题:走向 AGI 的扩展,是否取决于 System-1 让 System-2 执行什么。过去几年的扩展全部押在 System-2 上——更大的模型、更多数据、更长推理、更多 agent。这篇论文提出 conditional interaction 循环:轻量的 System-1 预测每个候选交互的效用,System-2 只执行被自适应阈值放行的部分,结果回头更新预测器。在理想筛选与等执行成本下,执行算力的下降因子趋近 1/ρ_u,ρ_u 是效用相关交互的密度;预测误差、探索与分布漂移会削减这个节省,选择 regret 由预测误差和效用边际共同界定。
论文的中心假设把结论推到扩展定律层面:ρ_u 是扩展效率的可测坐标,informative compute 是比 total compute 更好的扩展描述。需要说明的是,这是一篇立场论文:ρ_u 目前是带假设的提案,论文用命题与证明刻画它的性质,但没有自己的实验数据去度量现实系统里的 ρ_u。对 RSI 叙事而言,这把尺的含义很直接——自我改进循环每转一轮要花多少算力,取决于循环筛选掉了多少不值得执行的交互,而不是账面上的总算力。
第三把尺:训练循环自身的失效点有阈值
自我改进的循环要转动,前提是训练循环本身可信。乔治华盛顿大学的论文处理一个被默认忽略的事实:on-policy RL 假设训练响应来自当前策略,实际里推理引擎采样、训练器算梯度,两者的失配让训练数据悄悄变成 off-policy。论文把每个采样 token 的误差精确拆成两份:引擎数值差近似常数,以近乎固定的量偏置更新,前缀居中即可去除主部;策略滞后由训练器自身更新产生,残留偏置进入下一轮更新、制造更大滞后,形成自我放大的反馈回路。关键发现是对 Qwen3-1.7B 的失效定位:importance weighting 只在滞后比的等效样本量(ESS)保持在二分之一以上时有效,跌破那一步修正失效。据此导出的 DLC 修正把失配训练与 on-policy 训练的 KL 散度控制在两次独立 on-policy 训练之间 KL 的两倍以内,并在 ESS 跌破阈值时重同步采样器,拦住了逐 token 修正拦不住的崩溃。
这把尺给 RSI 提供的判据是:一个自我改进的循环在哪个时间步失配到不可信,是可以监测、可以触发干预的量。
收口:三个数换一句「即将」
把三篇论文并排放,产业侧的「即将达到门槛」缺的东西就有了形状。第一,循环增益——每轮自我改进提升多少、增益是否随轮次衰减,R²Orch 的撤除机制给的是带对照的增益测量;第二,脚手架保留——改进成果撤掉外部技能后剩多少,零技能部署的成绩单是现成读法;第三,循环可信度——采样与训练的失配何时跌破 ESS 阈值,DLC 给出了监测点和干预动作。Anthropic 的文件里这三处都还是内部估计。招股书当然没有义务提供可复算判据,那是论文的工作;但读「接近 RSI」这类表述时,手里握着三把尺,总比只握着日期强。
参考来源
- TechCrunch:Anthropic warns that it’s very close to RSI capability, aka self-building AI(2026-11-02)https://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/
- R²Orch: Recursive Self-Improvement for Agent Orchestration via Self-Play within a Skill-Internalization Loop(arXiv:2610.22740)https://arxiv.org/abs/2610.22740
- Does Scaling Toward AGI Depend on What System-1 Lets System-2 Execute?(arXiv:2610.39497)https://arxiv.org/abs/2610.39497
- On the Origin and Evolution of Training-Inference Mismatch in LLM Reinforcement Learning(arXiv:2610.40945)https://arxiv.org/abs/2610.40945