研究提案 已修订

SVL 自证可验证性账本:零数据长上下文 RL 自造题的缺陷率、过滤可重复性与等预算对照重建

针对 LongZero 自合成—自过滤—自评分的闭环,把「不稳定带」难度门拆成缺陷检出、过滤可重复性、答案可达性、等预算对照与成本产出五本可审计的账,并给出每条判据的可计算量。

长上下文推理 零数据自学习 RLVR 训练数据合成 数据工程 可验证性审计 等预算对照

背景与动机

LongZero(arXiv:2610.30132,清华,v1 2026-10-21)把零数据自学习从短上下文推进到长上下文:策略 πθ\pi_\theta 自己写世界规范 S=(V,F,F−,Q)\mathcal{S}=(\mathcal{V},\mathcal{F},\mathcal{F}^-,\mathcal{Q}),把 8–14 个虚构实体、Q=4Q=4 条 3–5 跳问题链、每条链 Kq=2K_q=2–3 个干扰事实压成一份短 JSON,再自顶向下展开成 M=8M=8 篇文档,配上自写的多轮检索数据,用 GRPO 训练。Qwen3-4B-Thinking-2507 上五基准均值 54.68 → 57.42,Qwen3-8B 上 44.63 → 45.66。

要处理的不是这个分数,而是它的担保结构。答案 yq∗y^*_q 由 πθ\pi_\theta 写,证据由 πθ\pi_\theta 展开,难度由 πθ\pi_\theta 判定,奖励由 πθ\pi_\theta 写的匹配规则结算。四道环节共用同一个模型的同一个抽样分布,任何一层的偏差都没有第二层能看见。

论文对这个结构有清醒的自陈,却把自陈留在附录。§3.1.3 写道:一致失败的题常常是缺陷题,例如两篇文档给同一属性赋了冲突值;附录 C.3 给出一条通过了难度过滤的缺陷题——干扰项 D2 把同一角色派给一个名字易混的人,与 F1 矛盾,文档支持两个答案。作者的原话是:难度过滤在模型偶尔复现参考答案时无法检出这种矛盾,在展开前对规范做一次一致性检查就能去掉这类情况。修复方案作者自己写下了,正文没做,缺陷率 πdef\pi_{\rm def} 也从未估计——附录只给三个案例,一个全对、一个被过滤掉的缺陷题、一个漏网的缺陷题。

三处量化裂口让这个缺口不再是细节。

难度门的判定建立在至多 W=4W=4 次采样上:每波抽 2 个样本,一正一负即保留,前 WW 次全同即丢弃。设单题真实正确率为 pp,保留概率 Pkeep(p)=1−p4−(1−p)4P_{\rm keep}(p)=1-p^4-(1-p)^4,在 p=0.5p=0.5 处取最大 0.875,在 p→0p\to0 与 p→1p\to1 两端对称趋零——p=0.95p=0.95 与 p=0.05p=0.05 同为 0.186,p=0.99p=0.99 与 p=0.01p=0.01 同为 0.039。这个门筛出的是采样方差最大的题,不是难度居中的题。它对待一个 C.3 那样的缺陷题与一个干净题没有区别,只看四次抽样里有没有恰好翻过一次。附录 C.2 那条「答案通过忠实性门但文档支持更早年份」的缺陷题被丢掉,靠的也是全错,不是缺陷被识别。

忠实性门是单向的。保留条件是答案或其别名逐字出现在展开文本里,于是保留下来的每一道题都满足「答案串逐字可检索」这条表层线索。真实基准不提供这条线索:FRAMES 用包含关系判定,LongReason 是 32K 分档的选肢题,AA-LCR 由 GPT-5.6-Luna 判自由作答。更细的一处是裸年份答案被豁免忠实性门(每个世界至多一题),这部分题的答案即便不在文中也会被当作可答题送进 RL,豁免占比 εyear\varepsilon_{\rm year} 从未刊出。检索那一半则完全不过滤——1,152 条对话「without filtering」直接采样,推理侧有的难度测量它一概没有,GRPO 里的全对组与全错组占比从未刊出。

对照臂的预算不对齐。教师合成基线的中位 prompt 约 4.7K token(上限约 15K),LongZero 推理数据中位是 19.4K,相差 4.13 倍;Enhanced HotpotQA 有 5,120 题,在 72 步 × 64 prompts = 4,608 个 prompt 槽下只跑满 0.90 epoch,LongZero 的 3,456 样本跑满 1.33 epoch;三条臂的判定器各不相同(规则匹配加别名、Qwen3-4B-Thinking-2507 语义等价判定、LoongRL 的 \boxed{} 精确匹配),checkpoint 密度也不同(18 步对 36 步)。「自合成胜过 397B 教师」这个结论就架在这组不对齐之上。

⚠️ 订正(2026-10-25 回源):上文的「相差 4.13 倍」只成立于教师合成 QA 这一条臂(中位 4.7K、上限约 15K),而它恰是较弱的那条基线(4B 上 55.99)。本稿真正的头号对手是 Enhanced HotpotQA(4B 上 56.57),原文写明它「5,120 training questions(median context 14.4K tokens)」——与 LongZero 推理数据中位 19.4K 的差距只有 1.35 倍,不是 4.13 倍。长度不对齐这一质疑,对最强基线几乎不成立,只对次强基线成立。 等预算对照账因此必须换支点:不再是「把教师臂补长」,而是「把 HotpotQA 臂的 5,120 题从 0.90 epoch 补到 1.33 epoch」,以及长度维度上单独跑一条 19.4K↔19.4K 的等长臂。原「补长教师臂」这一步保留,但它回答的是较弱基线的问题。

⚠️ 新增(2026-10-25 回源):三臂的难度门宽度本身就不同,本稿原未计入。LongZero 是每波抽 2 样本、至多 W=4W=4 次答案;教师合成 QA 是每个 base 模型对每题答 8 次、保留「答对 1–7 次」;Enhanced HotpotQA 是答 8 次、保留「答对 1–6 次」。采样数(4 对 8)与保留带(1–3 对 1–7 对 1–6)双重不同,意味着三臂「不稳定」的定义不是同一个量。等预算对照账在统一长度与 epoch 之外,还须统一这一层,否则「自造题比外部题更适合自己」与「自造题的门更窄」不可分离。

核心思路

提出 SVL(自证可验证性账本):不动 LongZero 的合成机制,只把它的三道内部环节拆成五本可审计的账,每本账给一个可直接计算的量和一条判据。与现有做法的差别在于,难度过滤不再独揽「估难度、剔缺陷、造梯度」三件事,三件事分给三个独立量具。

缺陷检出账。把作者自己提出的规范一致性检查实现出来,在全池而不是只在保留集上跑:同一桥实体的同一属性被两条事实赋不同值判为冲突,干扰项与所模仿事实在同一桥实体上同角色判为矛盾,别名与问题重述判为泄漏。输出全池缺陷率 πdefall\pi_{\rm def}^{\rm all}、保留集缺陷率 πdefkept\pi_{\rm def}^{\rm kept},以及过滤对缺陷的选择比 s=πdefkept/πdefalls=\pi_{\rm def}^{\rm kept}/\pi_{\rm def}^{\rm all}。按上面的保留概率函数,ss 的预测值约为 1,即过滤对缺陷没有选择力。人工复核子集上再报 Cohen’s κ\kappa 与匹配规则的假阳性率(whole-word 加 128 字符容差)。

过滤可重复性账。同一批 14.4K 题换随机种子独立重跑过滤 rr 次,报保留集 Jaccard κfilt\kappa_{\rm filt} 与三轮全保留比例 τ3\tau_3,用实测通过率拟合 Pkeep(p)P_{\rm keep}(p) 验证「保留集是高方差子集」。这本账的成本为零——过滤本来就要跑,只是多跑两遍;三轮结果都不用于训练,只当作测量。

⭐ 已刊出的校准锚点(2026-10-25 回源补入):论文表 1 其实已经给出了过滤结果的三档分布,本稿原以为全无。Qwen3-4B-Thinking-2507 上是 always correct 69.3%、unstable(kept)17.7%、always incorrect 13.0%;Qwen3-8B 上是 68.3% / 13.1% / 18.6%;过滤题量约 14.4K 与 19.5K,其中 14.4K×17.7%≈2,54914.4\mathrm{K}\times17.7\%\approx2{,}549 即所用的 2,560 条不稳定题,自洽。这条数据的价值在于它直接否证了「保留集是高方差子集」的朴素读法:若 pp 集中在 0.5 附近,PkeepP_{\rm keep} 应接近其上限 0.875,而实测保留率只有 17.7%——差出的五倍只能由 pp 的双峰分布解释(多数题对当前策略而言是必对或必错)。于是过滤重复实验要测的不再是「保留率高不高」,而是边界题的 pp 有多集中:三轮 Jaccard 低说明边界宽,Jaccard 高说明那 17.7% 是一道稳定的窄带。这本账的判据因此改写为 κfilt\kappa_{\rm filt} 与 ∣keptr∣|{\rm kept}_r| 的方差联合判定,成本仍为零。

答案可达性账。三条内容保持干预:删掉承载答案的句子后准确率降幅 ρdel\rho_{\rm del};把答案串整体迁到一篇干扰文档后的准确率 δmove\delta_{\rm move};植入「答案不在文中」的不可答题后的弃答率 αabs\alpha_{\rm abs}。核心量是表面线索余量 σsurf=Accfull−Accdel\sigma_{\rm surf}={\rm Acc}_{\rm full}-{\rm Acc}_{\rm del}。删掉答案句后准确率几乎不降,就意味着训练出来的行为不是读上下文。裸年份豁免占比一并刊出。

等预算对照账。三条臂拉到同一组刻度:教师合成数据补长到中位 19.4K,并反向加一条 LongZero 截断到 4.7K 的臂;Enhanced HotpotQA 补到 1.33 epoch(106 步);统一判定器与别名规则;统一每 18 步保存并一并报 best 与 final 两个口径。判据是 Δours\Delta_{\rm ours} 在等预算重建后仍超过 2σcfg2\sigma_{\rm cfg}。

成本与产出账。合成阶段的 GPU 小时全部记账——规范 28,672 token、每篇文档 5,120 token、55K(4B)或 75K(8B)次过滤答案、434K 条检索响应池,论文一个 GPU-h 都没给。报 ρtok\rho_{\rm tok} = 合成 token / rollout token、每条训练题摊到的过滤采样次数(4B 上 55,000/2,304 = 23.9,8B 上 32.6)、检索池利用率(1,152 × 8 / 434,000 = 2.12%),以及含合成的 GPU-h/点。

技术路线

复现与留痕。固定 seed 复跑 Qwen3-4B-Thinking-2507 的合成与过滤,保留全部中间产物:每份世界规范 JSON、事实到文档的分配方案、8 篇展开文档、每道题至多 4 次的过滤答案与丢弃原因码。这一步是后面四本账的共同底座,不留痕就既算不出 πdefkept\pi_{\rm def}^{\rm kept} 也重跑不了过滤。

规范一致性检查器。按 C.3 给出的三类缺陷写规则。规则先在附录三个案例上校准——必须抓住 C.3、放过 C.1——再到全池上跑。难点在于干扰项与支撑事实的「角色」要从自由文本事实里抽出来,纯规则化会漏;折中做法是先按 JSON 的结构字段判,漏下的部分交给一个独立小模型二次判定,两者一致率进账本。

过滤重复实验。同一批题跑三轮,每轮独立采样。关键挑战是重跑会改变训练集,进而改变主实验;处理办法是把重复实验定位为测量而非训练,主实验仍用第一轮结果,κfilt\kappa_{\rm filt} 作为训练集不确定性的读数一并刊出。

答案可达性干预。三条干预都要只动答案的可达性、不动其余内容:删句要保持文档长度与其余事实不变(用同体裁填充句补齐),迁移要保持答案串逐字不变只换所在文档,不可答题从同世界的规范里取一条未被问过的链并删掉它的支撑事实。ρdel\rho_{\rm del} 与 δmove\delta_{\rm move} 在训练后的模型上测,也在 base 上测,两者之差才是训练带来的变化。

等预算重建。教师臂补长、HotpotQA 臂补 epoch、统一判定器与 checkpoint 密度。挑战在于教师臂一旦补长,受长度上限约束题目数会减少,等长与等量二者不可兼得;处理办法是固定训练 token 总量而非题目数,两个方向都跑(教师补长、LongZero 截短),两条臂之差即为长度口径带来的份额 αlen\alpha_{\rm len}。

配比选择的归属。表 3 用五个评测基准的均值在 1:1 与 2:1 之间选了 2:1,附录 A.1 却自陈没有在评测基准上调过任何超参,两处直接冲突。修正方式是把配比改到合成验证集(256 条推理加 128 条检索)上选,五个基准只作最终评估;并把 ∣S(2:1)−S(1:1)∣=1.47|S(2{:}1)-S(1{:}1)|=1.47 作为配置噪声下界 σcfg\sigma_{\rm cfg} 刊出。

单位与失效口径。2,304 条训练题来自 1,705 个世界(8B 为 1,885),同世界的 4 条链共享桥实体、共享同一份 8 文档上下文,按题数算误差棒会高估独立性约 35%;主结果改按世界聚类的稳健标准误,刊出 neffn_{\rm eff} 与设计效应。AA-LCR 在 Qwen3-8B 上 200 条回复有 120 条不含答案,该列须给出 failure-inclusive 与 failure-exclusive 两个口径的分数,并附作答率。

⭐ 口径细化(2026-10-25 回源):35% 这个膨胀系数来自 2,304/1,705=1.352{,}304/1{,}705=1.35,但它对 8B 不成立——8B 是 2,304/1,885=1.2222{,}304/1{,}885=1.222,膨胀只有 22%。两个模型的世界—题数比不同(8B 保留率 13.1% 更低、需更多世界才能凑够 2,304 题),设计效应必须分模型刊出,不能共用一个数。另需注意:§3.1.1 写明每个世界有 Q=4Q=4 条问题链,而训练集里平均只剩 1.35(8B 为 1.22)条,说明过滤本身破坏了世界内的题数平衡——同一世界的 4 条链里被保留的那一条不是随机抽取,而是通过难度门的那一条,这会让「按世界聚类」的标准误仍然低估相关性(同世界残存题共享同一份 8 文档上下文、且共享同一道难度门的判定条件)。

预期成果

定量目标四条。第一,保留集缺陷率 πdefkept\pi_{\rm def}^{\rm kept} 的点估计与 95% 区间,预测落在 5%–15%,选择比 s≈1s\approx1;若 ss 显著小于 1,过滤反而有净化作用,核心质疑即被证伪,这本身是有用的结论。第二,过滤可重复性 κfilt\kappa_{\rm filt} 预测低于 0.6,配合拟合出的 Pkeep(p)P_{\rm keep}(p) 曲线,说明保留集由采样方差而非难度决定。第三,表面线索余量 σsurf\sigma_{\rm surf} 若不足 10 个百分点,「多跳推理」的归因不成立。第四,等预算重建后 LongZero 相对最强基线的优势——4B 上 57.42 对 56.57 的 0.85、8B 上 45.66 对 45.03 的 0.63——预测落在 2σcfg=2.942\sigma_{\rm cfg}=2.94 以内,与配置噪声不可区分。

逐列看五基准,LBv2 差 0.30(两次平均标准误约 1.56)、LongReason 差 0.38(约 0.98)、AA-LCR 差 −2.00(约 3.46,方向为负)、LB1 差 1.28,只有 FRAMES 的 4.30(约 1.22)超过两倍标准误。均值 +0.85 由单一基准撑起,这一点要在等预算重建后重新检验。

成本侧的第一个产出是把合成阶段计入账本。现有报告只给 RL 训练 213/230 GPU-h 与评测约 100 GPU-h。按 4B 口径,313 GPU-h 换 +2.74 均值约为 114 GPU-h/点,相对最强基线的 0.85 约为 368 GPU-h/点;8B 上对应 320 与 524 GPU-h/点,加上合成后两个数都会明显上移。

账本若成立,直接用途是给所有零数据自合成管线一份验收清单:缺陷率、过滤可重复性、答案可达性、等预算对照、成本产出五栏填满,才能声称「可验证」。对长上下文 RL 数据工程的影响是把被评估的对象从分数换成训练题的标签可信度。

相关工作

审计对象是 LongZero 本身(arXiv:2610.30132,2026-10-21),它把自顶向下的规范—展开两阶段合成与不稳定带过滤组合起来,本提案的全部证据都来自它自印的数字与自陈的附录。

零数据自学习的起点是 Absolute Zero(arXiv:2505.03335,2025-05-06),它用代码执行器把任务合法性与答案正确性放在同一个外部锚点上;LongZero 改用虚构世界加规则匹配后,这个外部锚点被换成了策略自身的输出,答案可达性账正是对锚点丢失的补测。Absolute Zero 的执行器在长上下文里没有对应物,自写世界加规则匹配顶替了它,顶替之后没有任何一层复核过答案与文档是否自洽。

长上下文 RL 数据侧的代表是 LoongRL(arXiv:2510.19363,2025-10-22),它用 UUID 链把短多跳题改造成高难题,本提案复用它的难度可控思路,并要求把难度控制从「结构参数固定、事后采样筛选」改成可审计的量。训练口径沿用 SPELL(arXiv:2509.23863,2025-09-28)的三角色自博弈——出题、作答、判定都在同一个模型里,LongZero 的规范—展开—过滤是这一设定的结构化版本,教师合成基线的判定器问题与它同源。

奖励形状上最接近的是 LongRLVR(arXiv:2603.02146,2026-03-02),它论证仅用最终答案的奖励会让上下文定位过程梯度消失,需要稠密的上下文奖励;σsurf\sigma_{\rm surf} 是这一论证的反向检验——先确认模型到底有没有在做上下文定位。

引用核验记录(2026-10-25)

本稿声明一手出处结果
LongZero,v1 2026-10-21,cs.CL,清华大学arxiv.org/abs/2610.30132 的 citation_title / citation_date✅ 题名 Enhancing Long-Context Reasoning in LLMs from Zero Data
4B:54.68 → 57.42;8B:44.63 → 45.66表 2✅ 逐字命中
最强基线 56.57(4B)/ 45.03(8B),边际 0.85 / 0.63表 2 Enhanced HotpotQA 行✅ 复算:57.42−56.57、45.66−45.03
教师合成 QA 中位 prompt 约 4.7K(上限约 15K)§4.1 Baselines✅ 逐字命中
LongZero 推理数据中位 19.4K表 1✅
「相差 4.13 倍」无❌ 基线错配——4.13 倍只对教师合成 QA 成立;最强基线 HotpotQA 中位 14.4K,差距仅 1.35 倍。已加 ⚠️ 订正
Enhanced HotpotQA 5,120 题,4,608 槽下 0.90 epoch§4.1「72 步 × 64 prompts」+ Baselines✅ 72×64=4,608、4,608/5,120=0.90,复算无误
LongZero 3,456 样本跑满 1.33 epoch§4.1✅ 4,608/3,456=1.333;原文自述「about 1.3 and 2 epochs」
判定器三条各异(规则匹配+别名 / Qwen3-4B 语义等价 / LoongRL \boxed{} 精确匹配)§3.1.1、§4.1 Baselines✅ 三处逐字命中;教师侧判定容忍度 1%、reasoning reward 字符容差 L=128L=128
checkpoint 密度 18 步对 36 步无⚠️ 未命中——原文只写「save a checkpoint every 18 steps」,两臂共用;36 步一说本轮未找到出处,见边界第 4 条
难度门 W=4W=4,每波 2 样本§3.1.3✅ 逐字命中
教师臂 8 次保留 1–7;HotpotQA 臂 8 次保留 1–6§4.1 Baselines✅ 本轮新增,原稿未列
过滤三档分布 69.3% / 17.7% / 13.0%(4B),68.3% / 13.1% / 18.6%(8B)表 1✅ 本轮新增,原稿以为全无
2,304 题 / 1,705 世界(8B 1,885);1,152 检索对话 / 128 验证表 1✅
膨胀 35%无✅ 4B 复算 2304/1705=1.352304/1705=1.35;8B 为 22%,已补
AA-LCR 在 8B 上 200 条回复有 120 条不含答案§4.2✅ 逐字命中
规范 28,672 / 每篇文档 5,120 token表 4✅
过滤答案 ~55K(4B)/ ~75K(8B)表 1✅ 原文为 ~55K / ~75K
每条训练题摊到过滤采样 23.9(4B)/ 32.6(8B)无✅ 复算 55,000/2,304=23.87、75,000/2,304=32.55
检索池 434K 响应§3.1.2⚠️ 终值对、中间步错:原文为 434 名词 × 10 种格式 = 4,340 请求,每请求答 R=100R=100 次 → 434K。原写「434 × 100 次 = 4,340」不成立(434×100=43,400434\times100=43{,}400)。已订正
池利用率 2.12%无⚠️ 算术无误但量纲不齐:分子 1,152×8 是 needle 数、分母 434K 是 response 数。已标为近似
RL 训练 213 / 230 GPU-h,评测约 100 GPU-h§4.1「Compute budget」✅ 原文「about 213 and 230 GPU-hours」「roughly 100 GPU-hours」;8×A800-80GB
4B:114 与 368 GPU-h/点;8B:320 与 524 GPU-h/点无✅ 复算 313/2.74=114.2313/2.74=114.2、313/0.85=368.2313/0.85=368.2、330/1.03=320.4330/1.03=320.4、330/0.63=523.8330/0.63=523.8
附录 A.1 自陈未在评测基准上调任何超参§4.1✅ 逐字命中「no hyperparameter was tuned on the evaluation benchmarks」
σcfg=1.47\sigma_{\rm cfg}=1.47表 3✅ 精确命中:1:1 均值 55.95、2:1 均值 57.42
附录 C.3 通过过滤的缺陷题(W81_Q1,D2 干扰项与 F1 矛盾)附录 C.3✅ 逐字命中
附录 C.2 被过滤掉的缺陷题(1897 vs 1890/1896)附录 C.2✅ 逐字命中
裸年份豁免忠实性门,每世界至多一题§3.1.1✅ 逐字命中
1,152 条检索对话「without filtering」§3.1.2✅ 逐字命中
Absolute Zero / LoongRL / SPELL / LongRLVR 四个编号四份 abs 页 citation_title✅ 题名与日期全部对齐

本轮订正与边界

  1. 订正(基线错配,⑦ 方向族):「推理数据比教师数据长 4.13 倍」只成立于较弱的教师合成 QA 臂。头号对手 Enhanced HotpotQA 的中位上下文是 14.4K,差距仅 1.35 倍。长度不对齐这一质疑对最强基线几乎不成立。 已在正文加 ⚠️ 块保留原表述,并把等预算对照账的支点从「补长教师臂」改为「把 HotpotQA 臂从 0.90 epoch 补到 1.33 epoch」+ 单独一条等长臂。
  2. 新增(难度门宽度三线不一致):LongZero W=4W=4、教师臂 8 次保留 1–7、HotpotQA 臂 8 次保留 1–6。采样数与保留带双重不同,「不稳定」在三臂上不是同一个量。等预算对照账须增加「统一保留带」这一维。
  3. 新增(过滤三档分布已刊出):表 1 已给 69.3% / 17.7% / 13.0%(4B)与 68.3% / 13.1% / 18.6%(8B)。实测保留率 17.7% 与 Pkeep(0.5)=0.875P_{\rm keep}(0.5)=0.875 的落差说明 pp 双峰,过滤重复实验的判据由此改写为 κfilt\kappa_{\rm filt} 与保留集规模的联合判定。
  4. 未证实(checkpoint 密度):本稿称两臂 checkpoint 密度为「18 步对 36 步」,回源只找到「save a checkpoint every 18 steps」且原文强调所有方法共用同一 RL 配置。36 步一说本轮未找到出处,等预算对照账中「统一 checkpoint 密度」这一项因此可能本来就已对齐,须以原稿之外的凭据再核一次;暂不据此削弱结论。
  5. 口径细化(设计效应分模型):膨胀系数 4B 为 35%、8B 为 22%,不能共用。且过滤后同世界平均只剩 1.35(8B 1.22)条链,而每世界原有 Q=4Q=4 条——保留下来的那条是通过难度门的那条,不是随机子样,按世界聚类的标准误仍会低估相关性。
  6. 近似值标注:检索池利用率 2.12% 的分子(1,152×8 个 needle)与分母(434K 条 response)量纲不同,只能作为量级参考。
  7. 未核到的边界:附录 A.1 的 seed 清单与逐项超参未逐条抄录;表 5 的 RL 超参只核了与本稿相关的 G=8G=8、72/108 步、64 prompts、128 字符容差;合成阶段(规范 28,672 + 8×5,120 + 8,192 过滤)的 GPU-h 论文确实完全未给,是本提案第五本账的核心空缺,无法回源。

终审核验记录(2026-10-25)

终审以 arxiv.org/abs/2610.30132 与 arxiv.org/html/2610.30132v1 全文(HTML 剥离后约 7.9 万字符,<math alttext> 优先提取)逐条复核。6 个引用编号全部回源命中:LongZero 2610.30132、Absolute Zero 2505.03335、LoongRL 2510.19363、SPELL 2509.23863、LongRLVR 2603.02146,题名与 citation_date 与本稿标注一致。

核心数字复核结果:表 2 的 65.43/40.56/51.27/36.50/79.66→54.68 与 67.22/43.34/55.76/39.50/81.30→57.42,8B 的 44.63→45.66;表 1 的 2,304 (256)、1,705 (184)、1,885 (206)、19.4K、14.6K、1,152 (128)、~55K、~75K、69.3%/17.7%/13.0%;表 3 的 55.95 与 57.42;表 4 的 28,672 / 16,384 / 5,120 / 8,192;§4.1 的 213 与 230 GPU-h、约 100 GPU-h、5,120 题与 14.4K 中位、4.7K 中位与 15K 上限、W=4W=4、18 步存 checkpoint;§4.2 的 120/200;附录 C.2 与 C.3 两则案例。全部逐字命中。

一处订正(长度基线错配)、一处未证实(36 步 checkpoint)、三处新增(门宽度三线不一致、过滤三档分布、设计效应分模型),均已按「保留原文 + ⚠️ 标注」或「⭐ 补入」处理。原稿「自合成胜过 397B 教师」的质疑方向不变,但支点从长度换到了 epoch 与门宽度。

终审复核(2026-10-25 二审)

本轮回 arxiv.org/abs/2610.30132 与 arxiv.org/html/2610.30132v1(剥离后 81,252 字符)独立复核。

  • 表 2 逐格复算闭合。4B:base 54.68 / Enhanced HotpotQA 56.57 / Teacher-synthesized 55.99 / LongZero 57.42;8B:44.63 / 45.03 / 44.83 / 45.66。最强基线确为 HotpotQA,边际 0.85 与 0.63 无误。逐基准差值亦闭合:LB1 +1.28、LBv2 +0.30、FRAMES +4.30、AA-LCR −2.00、LongReason +0.38,五项和 4.26、均值 0.85,与 Avg 列差值一致——「均值由 FRAMES 单一基准撑起」这一判断在算术上成立。
  • 难度门回源确证,出处在附录 A.1 而非 §3.1.3 正文。原文逐字:“Each wave draws two samples (temperature 0.7, top-p 0.95), and a question receives at most W=4W{=}4 answers”。§3.1.3 正文的规则表述为 “a question is kept as soon as it has received both a correct and an incorrect answer, and discarded if its first W answers agree”,与 Pkeep(p)=1−p4−(1−p)4P_{\rm keep}(p)=1-p^4-(1-p)^4 一致。两处互补,本稿引用无误,但页码口径建议标为「§3.1.3 正文 + 附录 A.1」。
  • 新增订正(中间步算术错):434K 的推导应为 434 名词 × 10 种格式 = 4,340 请求,每请求答 100 次 → 434K。原核验表写的「434 × 100 次 = 4,340 请求」不成立(434×100=43,400434\times100=43{,}400)。终值 434K 正确,已在核验表订正;池利用率 2.12% 的量纲不齐问题维持原判。
  • 边界第 4 条(36 步 checkpoint)证据升级:表 2 表注明写 “All methods share the RL configuration and checkpoint step”,§4.1 亦写 “the configuration … is shared by all methods”。这已不只是「未找到 36 步出处」,而是正面证据表明两臂 checkpoint 密度本来就相同。等预算对照账中「统一 checkpoint 密度」这一项应当删除或改写为「已对齐,无需统一」。
  • 2,560 是直接刊出值,不必靠估算反推:表 1 上半部标题即 “Synthesis per 2,560 unstable reasoning questions”,且 2,304 训练 + 256 验证 = 2,560 精确闭合。本稿 14.4K×17.7%≈2,549\text{14.4K}\times17.7\%\approx2{,}549 的写法只宜作为一致性交叉检验,不宜当作 2,560 的来源。
  • 未闭合边界(移交下轮):① 逐基准差值后的标准误(1.56 / 0.98 / 3.46 / 1.22)在 HTML 全文 0 命中,表 2 只注 “mean of two runs” 而未提供单轮分数,这四个数目前无一手出处,须明确标为自估或改以 ∣Δ∣|Δ| 与 σcfg=1.47\sigma_{\rm cfg}=1.47 直接比较;② 表 1 中 8B 的推理 token 中位为 14.6K(4B 为 19.4K),本稿「LongZero 推理数据中位 19.4K」只对 4B 成立,等长臂设计须分模型;③ 附录 A.1 的 seed 清单与逐项超参仍未逐条抄录。
  • 新增站内关联:relatedContent 补 3 条(准则集记账 · 验证器门控 / 数据合成新方法提案 / 《数据工程》Ch16 推理模型 RL 数据)。