研究提案 已修订

从压缩比记账到锚定式分级:让自改进科学 Agent 的知识账本分开定律与插值

以 arXiv:2610.32245 的 252 条知识账本审计为起点,指出以 σ_y 为尺度的压缩比 cr 退化为 R² 的单调重标且不可识别插值,提出以仪器噪声为锚、按模型复杂度计价、并用外推反事实探针把关的锚定式描述长度分级框架 ADLG。

AI for Science 自改进 Agent 知识账本 最小描述长度 数据分级 符号回归 数据工程

背景与动机

科学发现系统把候选关系的产出做到了规模化,瓶颈转到验收:几百条通过预测门的关系里,哪些配得上「定律」这个名号。arXiv:2610.32245 给出的答案是把系统本来就在算的量——最小描述长度压缩比 cr——读成无监督的认识论分级器:在 252 条准入关系的账本上,cr 排序的前段(cr > 1.5,8 条)全部是典范定律(七颗行星上的 vis-viva、Balmer/Rydberg)与跨测量恒等式,超几何检验 p = 3.6 × 10⁻¹²;反过来,216 条(86%)落在 cr ≤ 1.0。

这个方向对,账本这一层的分级也确实缺人做。问题在于 cr 这个具体量撑不起它要承担的结论。我按论文 §2 的记账约定复算了一遍,五处对不上。

第一,cr 在论文的 δ 约定下退化成 R² 的单调重标。 δ 取 σ_y · 10⁻⁶,于是 baseline 码长 (n/2)·log₂(2πe·σ_y²/δ²) = (n/2)·log₂(2πe·10¹²) = 21.98n bits,σ_y 整体约掉,残差码只剩 (1−R²) 一项:

cr = 21.98 / [ 21.98 + 0.5·log₂(1−R²) + L/n ]

L 是模型侧描述代价。取 L/n = 0.47 bits/sample,Figure 1 的四个点逐点吻合:R² = 0.541 得 1.004(论文 1.004)、0.9 得 1.057(1.06)、0.99 得 1.149(1.15)、1−10⁻¹² 得 8.73(8.7)。四个点全中,说明这条曲线是 R² 的严格单调变换加一个常数项。「预测轴与压缩轴近乎解耦」不是两个独立量之间的解耦,是一个平坦变换在读数上的表现:R² 从 0.5 走到 0.99,cr 只从 1.001 走到 1.149,整个统计区间的分辨率不到 0.15。分级器在这 86% 的语料上是近乎退化的。(顺带一提,论文正文写 baseline 为 n·21.3 bits,按同一公式应为 21.98,差 0.68 bits;不影响结论。)

第二,「定律悬崖」是 −log(1−R²) 的性质,不是定律性的性质。 残差压到量化地板的任何拟合都会拿到高 cr,一条恰好穿过全部样本的高灵活度插值曲线同样压到地板。cr 单独使用时,定律与插值不可识别——而这恰好是验收问题里最需要分开的一对。

第三,账本内部的排序与「band structure 物理上自洽」矛盾。 七条 vis-viva 是同一条物理定律,cr 从水星的 4.62 一路掉到天王星的 1.22,跨度 3.8×:同一个定律在排序里横跨了「定律带」与「边缘带」。

这里必须把批评的范围划准,否则会打偏。论文对「零反例」的表述是限定在顶带之内的:Figure 2 caption 写「The top band (cr>1.5\mathrm{cr}>1.5) is entirely law-grade (8/8, hypergeometric p=3.6×10−12p=3.6\times10^{-12})」,而 rank 13 与 rank 15 都在 1.5 以下。论文还自己把 G-R 定性为「a real but statistical law—falls at cr=1.24\mathrm{cr}=1.24, between the deterministic band and the statistical floor, exactly where a law of that character belongs」。所以 rank 13(G-R,1.24)排在 rank 15(天王星 vis-viva,1.22)之上不构成「零反例」的反例——论文从未对顶带之外主张零反例,且它主动把统计律放进了边缘带。援引这一对会让整条批评被一句话挡回来。

站得住的是另一条。顶带 cr>1.5\mathrm{cr}>1.5 的八条里有四条是 vis-viva(水星 4.62、火星 2.14、金星 1.91、木星 1.52),另外三条 vis-viva(土星 1.39、地球 1.31、天王星 1.22)全在带外,落在「统计地板」这一侧。同一条物理定律,四条进定律带、三条进非定律带,这才是「band structure 自洽」真正撑不住的地方:分级器把行星的测量精度差异读成了关系本身的认识论差异。水星近日点进动大、轨道偏心率高、星历拟合精度高,天王星反之——cr 读的是这个,不是 vis-viva。论文用「all seven vis-viva instances compress above 1.2」来维护自洽性,但 1.2 这个门槛是事后贴着数据选的,换成 1.5 就散了。

顺带一处对账差异。 正文写 13 个标签,逐项枚举是 14:vis-viva ×7、Balmer/Rydberg ×2、double-measurement ×2、cell-volume identities ×2(含守恒形式)、G-R ×1(论文原句为「13 labels among 252: vis-viva ×7, Balmer/Rydberg ×2, double-measurement ×2, cell-volume identities ×2 counting the conservation form, Gutenberg–Richter ×1」)。顶带八条的名单逐条对得上(水星/火星/金星/木星 vis-viva 四条、两种 Rydberg 形式、光谱 double-measurement、cell-volume identity),所以 8/8 这一格不受影响;13/14 的差异只进入零分布 13/25213/252 或 14/25214/252,会让超几何尾概率略微变小,不改变量级。去重到 62 族后是 4 个 law 标签(顶带 4/4,p=1.8×10−6p=1.8\times10^{-6}),与行级的 13/14 是两层口径,三个数没有对账表。

第四,86% 这个头条数字没有在族级重算。 252 条坍缩为 62 个唯一形式,其中单个「阻尼振荡」模板就占 170 条(67.5%)。论文只在做富集检验时去重(62 族、4/4、p = 1.8 × 10⁻⁶),86% 这件事从头到尾是行级统计。行级 86% 与「62 个发现里有几个是统计的」是两个数,后者没有刊出。

这一段要说清楚论文已经做了什么,否则批评会显得不公平。论文在 §4 末尾自陈两条 caveat,措辞是「Two caveats keep the claim honest」:其一,富集检验只在一份账本上做且标签协议是手工固定的,因此作者转而登记前向预测(§6 Forward Falsifiable Preregistration)而不做事后推广;其二,排序奖励的是相对测量精度的确定性结构,一条被噪声观测到的定律在精度提高前会被判为统计级——作者原话是「the grader measures the ledger, not nature directly」。

第二条 caveat 与本文第一、第二条批评指向同一个机制,作者已经知道。差距在于处理:作者用「登记一条前向预测」来回避事后挑选,本文要的是把这个机制从 caveat 变成可标定量——η=σr/δa\eta=\sigma_r/\delta_a 就是「grader 测的是账本还是自然」这一句的刻度化。ADLG 因此不是替代 §6 的前向预注册,而是给它补一条标定曲线:预注册能防止事后挑选,回答不了「在什么 (n,σ,L)(n,\sigma,L) 上分级器开始失效」。

第五,模型侧代价 L 从未逐条入账,而它是统计主体 cr 值的实际驱动项。 由上式反解,cr = 1.0 对应 R² = 0.479,低于准入门槛 R² ≥ 0.5;若 L/n 恒为 0.47,任何过门的关系都不该出现 cr < 1,可实测有 216 条 cr ≤ 1.0。这 216 条的 cr 差异只能来自 L——一个论文没有给分布的量。最刺眼的例子是那个嵌入预测器:训练过的权重,held-out R² = 0.541,cr = 1.004;它与一个三参数符号式被记在同一档模型代价上。按权重的量化比特诚实计价,它的 cr 会明显小于 1,「学到的预测器压缩不了任何东西」这句话是上界,不是结论。

一句话:现有方案把记账口径当成了认识论分级。真正缺的是三样东西——一把不随目标方差缩放的尺子、一份逐条计价的模型侧账单、一个能把插值从定律里剔出来的反事实探针。

核心思路

提出 Anchored Description-Length Grading(ADLG),把单値 cr 换成一套四件套的账本分级协议:

① 噪声锚定的量化步长。 把 δ 从 σ_y · 10⁻⁶ 换成该测量平面的仪器锚 δ_a:优先取档案公布的测点不确定度 u(y),没有则取重复测量的复现性 σ_rep,二者都缺时用邻近重复(duplicate-pair)差分的半方差估计,并把「锚的来源」作为每条账目的必填字段。判据换成无量纲的 η = σ_r / δ_a:η ≤ 1 表示残差落在仪器分辨能力之内,超过 1 表示还有仪器看得见的结构没被解释。这一步把 cr 从「残差相对目标方差」改成「残差相对仪器噪声」,跨平面可比性才成立——现在的口径把每个平面的精度归一化掉了,JPL 星历上的 R² = 0.54 与蛋白质 digest 上的 R² = 0.54 拿到同一个 cr,而两者的认识论含义完全不同。

② 模型侧代价分项计价。 L = L_form + L_param:符号式按表达式语法的前缀码计价(运算符表固定、常数按有效位数量化),学习式按架构 ID + 权重量化比特(16/8/4 bit 三档做敏感性分析)计价。每条账目刊出 L/n 与净压缩 NetBits = baseline − 残差码 − L(带符号),负値直接标为「陈述代价高于节省」。

③ 外推反事实探针 Λ。 对每个高 cr 候选,在同一份数据上拟合一个高灵活度插值器(优化长度尺度的 GP 或节点数≈n 的样条),并在留出外推区(x 落在训练支撑集之外,多变量时按凸包距离定义)比较二者:

Λ = log₂( σ_r(symbolic) / σ_r(interp) ) ,外推区上取值

Λ ≥ Λ* 才算定律级。真定律在外推区站得住,插值器站不住。这道门是 cr 完全没有的判别力,也是把第二、第三条证据补上的唯一办法。

④ 族级去重与分级版本化。 每个头条数字在行级(252)、族级(62)、平面级(~10)三层各报一次,附模板集中度(Herfindahl;本账本单一模板 67.5%)。分级是三元组(关系、数据集版本、锚 δ_a),数据版本跳变时重算,并刊登迁移矩阵:每次数据发布有多少条跨过定律阈值——cr 是精度相对的,同一条关系会在没有任何新发现的情况下自己升级。

与现有工作的关键区别:2610.32245 用单一内部量做事后审计,是记账口径的修正;ADLG 是把分级做成可校准的三层协议,并引入一个 cr 无法提供的反事实维度(外推)。AI-Newton 按适用范围(specific / general)给定律分类,没有压缩记账也没有分级;ADLG 的 η 与 Λ 可以直接接在它的概念层上。符号回归基准(SRBench、LLM-SRBench)以已知真公式的复原率评分,离开有真值的离线集就失效;ADLG 面向的是没有真值的在线账本。

技术路线

步骤一:复现与对账。 按 §2 约定重算 252 条的 cr,逐条刊出 (R², n, L/n, cr),核对 13/14 个标签的对账差异、86% 在族级的值、以及 rank 13/15 的排序倒挂。产出一份可对照的复现表。

步骤二:锚定与计价。 为 10 个测量平面分别标定 δ_a,记录来源与覆盖率;实现 L_form(语法前缀码)与 L_param(三档量化)两套计价器;输出每条的 η、L/n、NetBits,以及 NetBits < 0 的条目清单。

步骤三:植入式真值基准。 往真实测量档案里注入已知定律:给定 (真形式 f*, 噪声水平 σ/σ_y, 样本量 n, 干扰变量数),生成带真值标签的合成平面,扫描三个变量各 5 档共 125 组。这是现在最缺的一块——论文的富集检验只有 13 个手工标签,没有标定曲线,无法回答「在什么样的 (n, 噪声, L) 上分级器开始失效」。在这 125 组上测 cr、η、Λ 三个量的 ROC,给出各自的可分区域。

步骤四:外推探针与假定律率。 在合成平面上加入「假定律」家族:高灵活度插值式、含隐藏周期的过拟合式、数据泄漏式(用到目标的函数)。测三件事:cr-only 分级把假定律判为定律级的比例(预期 ≥ 20%,这是第二条证据的定量化);η 单门的假定律率;η ∧ Λ 双门的假定律率。判据是双门比 cr-only 降一半以上。

步骤五:接回自改进回路。 账本是下游的训练/检索语料。按分级给采样权:定律级条目作硬约束与先验,统计级条目作软先验。测下游两个量——每 1000 个候选的定律产出率、假定律准入率——对照「全量使用」「只用 cr 前段」「只用 ADLG 定律级」三种语料。

关键技术挑战。 一是 δ_a 的覆盖率:多数公开档案不刊逐行不确定度,需要重复结构估计,覆盖率不足的平面必须标为「未锚定」而不是硬凑一个値。二是 L_param 的量化档位选择会直接改写学习式与符号式的排序,三档敏感性分析要报的是排序稳定性,不是一个数。三是外推区定义本身是自由度:单变量按支撑集外推,多变量按凸包距离,阈值需要靠步骤三的合成平面标定,不能拍。四是富集检验的有效样本量:62 个族来自约 10 个平面,vis-viva 的 7 条全部来自同一份星历,重抽样必须按平面重抽而不是按行重抽。五是分级非平稳:数据版本跳变会让等级漂移,账本需要保存等级历史,否则任何跨时间的比较都不可靠。

预期成果

定量目标:

  • 复现表逐条对齐 252 条,(R², L/n, cr) 三项可自洽反解,四项曲线点误差 < 1%。
  • 86% 在族级(62 个族)重报,给出行级与族级两个数的差;若族级落在 50%–75% 区间,即证实头条数字被单一模板放大。
  • 合成基准上给出 cr、η、Λ 三条 ROC 与各自的可分区域边界(n、噪声、L 三个维度上的失效面)。
  • 假定律率:cr-only ≥ 20%,η ∧ Λ 双门 ≤ 10%(相对降幅 ≥ 50%)。
  • 下游:ADLG 定律级语料相对全量语料,每 1000 候选的定律产出率提升,假定律准入率下降 ≥ 30%;两项都达成才算通过。

定性产出——一份锚定式分级协议(δ_a 标定规程 + L 计价规程 + 外推探针规程)、一套三层账本 schema(行/族/平面 + 等级历史)、一个带植入真值的 125 组合成基准。

影响:自改进发现系统的知识账本从「准入即真理」变成「准入带等级」,下游训练与检索拿到的语料带可审计的认识论标签;分级器本身有了标定曲线,不再依赖手工标签做一次性富集检验。

相关工作

  • Minimum Description Length Unsupervisedly Separates Law-Grade from Statistical-Grade Knowledge in a Self-Improving Science Agent(Mao & Zou, 2026,本提案的种子论文)——https://arxiv.org/abs/2610.32245
  • Pre-Registered Genesis Accounting for Recursive Self-Improvement: First Audited Operator-Genesis Events in a Physics-Discovery Runtime(Mao & Zou, 2026,同一运行时的伴侣论文)——https://arxiv.org/abs/2610.14843
  • AI-Newton: A Concept-Driven Physical Law Discovery System without Prior Physical Knowledge(Fang et al., 2025)——https://arxiv.org/abs/2504.01538
  • Contemporary Symbolic Regression Methods and their Relative Performance(SRBench, La Cava et al., 2021)——https://arxiv.org/abs/2107.14351
  • AI Feynman 2.0: Pareto-optimal symbolic regression exploiting graph modularity(Udrescu et al., 2020)——https://arxiv.org/abs/2006.10782

事实核查记录(2026-10-28)

种子论文 arXiv:2610.32245(Mao & Zou,Hooman Biotechnology(北京)人工智能实验室,v1 2026-10-23)的 HTML 全文已逐项回源。已坐实:252 条准入关系、216 条(86%)cr≤1.0\mathrm{cr}\le1.0、中位数恰为 1.000、超几何 p=3.6×10−12p=3.6\times10^{-12}、零分布 13/25213/252;Figure 2 的 rank 1–15 全部数值(4.62 / 3.04 / 3.02 / 2.19 / 2.14 / 1.91 / 1.72 / 1.52 / 1.39 / 1.35 / 1.35 / 1.31 / 1.24 / 1.23 / 1.22);顶带 cr>1.5\mathrm{cr}>1.5 为 8/8;嵌入预测器 held-out R2=0.541R^2=0.541;族级去重后 62 个唯一形式、单一阻尼振荡模板占 170 条、4 个 law 标签、顶带 4/4、p=1.8×10−6p=1.8\times10^{-6};§6 为 Forward Falsifiable Preregistration。4.62/1.22=3.794.62/1.22=3.79(本文记 3.8×)与 170/252=67.5%170/252=67.5\% 为本文按上述数值复算。

已订正一处:本文原以 rank 13(G-R,1.24)排在 rank 15(天王星 vis-viva,1.22)之上作为「零反例」的反例。回源后确认论文的零反例断言限定在 cr>1.5\mathrm{cr}>1.5 顶带内,且论文已主动把 G-R 定性为边缘带的统计律,该反例不成立。已改以「vis-viva 七条中四条进顶带、三条落在带外」作为主证据,并补入论文自陈的两条 caveat 与 §6 前向预注册。

保留待复现:13/14 的标签对账差异(论文枚举式相加为 14,改零分布为 14/25214/252 后 pp 的变化量需重算);L/n=0.47L/n=0.47 为本文按 Figure 1 四点反解所得,论文未直接给出该常数。