AI

arXiv:2610.36109 配套——题眼是「更新次数不是控制变量」：现有测试时更新（改权重 / 改 adapter / 改记忆）的评测只报改了几次，把改了什么、改在哪、什么时候改、按什么顺序四个维度全吃掉了 · ① 调度沙盘（核心）：固定总更新次数 = 3，6 种顺序 × 4 种时机 = 24 种调度，在 760M checkpoint 上准确率从 19.7% 一路到 34.2%（差 14.5 个百分点），「只换顺序」按钮让分数当场跳档；含 acquisition / retention / locality 三维雷达与可点选对照格 · ② 四轴分离台：19 个工作点 × 3 轴热力条，六条 CounterFact LoRA 设置全部学到新信息（6/6 acquisition 全过），而 ROME 在全部 13 个工作点上 retention 全绿、locality 全红 —— 一眼看出两者是被总分揉在一起的独立失败模式 · ③ 计数什么时候足够：把论文「计数单独决定最终状态」的充分条件做成三个可亲手违反的前提开关（顺序无关 / 更新可交换 / 无干扰），全开时 24 根柱子一样高，关掉任意一条立刻分岔 · ④ 横向不一致榜：3 editor × 3 benchmark × 3 test 配色块矩阵，按 (benchmark+test) mod 3 轮换胜者构造，因此没有任何一行全绿，可直接用眼睛验证「不要按单一榜单选 editor」

arXiv:2601.06103《The Impact of Post-training on Data Contamination》一手源（已回源 abs + HTML 正文 v1）——把 5 份 GSM8K/MBPP 测试题注进 25B token 预训练集的前 2B tokens，后训练数据本身完全干净：① ⭐ 审计时点滑杆（暴露点 → 预训练结束 → +SFT / +GRPO）：预训练结束时虚高「可以接近零」，判定干净；拖到 +GRPO 后连从未被污染的 GSMPlus/HumanEval 也一起虚高，同一份污染读出两个相反结论 ② SFT ⇄ GRPO 双轨（Figure 5 的移动方向）：SFT 是横向移动＝纯高估（gains are almost purely local），GRPO 是对角移动＝含泛化成分（diagonal movement）；🧮 论文 Eq(1) d = ΔGSM8K − ΔGSMPlus 计算器，d>0 是高估、d<0 是泛化；模型规模滑杆演示 d 对 Base/SFT 随规模上升、对 GRPO 反而下降甚至转负 ③ 实验设定解剖台：🧮 25B 混合配比真算（OpenMath-Instruct 25.97% / CodeParrots 14.58% / FineWeb-Edu 59.45%）、🧮 暴露后训练量占比 92.0% 与稀释倍数 11.5×、SFT mask 细节与 GRPO（1 epoch / 16 候选 / 8-bit AdamW）、论文自陈四条 Limitations ④ 审计流水线定位（③ 预训练结束＝❌ 不够，④ 后训练之后＝✅ 必须）+ 五条清单 + 与站内另两个污染工具的分工。🔴 与书籍 §7.10.3「后训练放大污染」方向不一致：论文落点是「审计放在后训练之后」+「RL 虽非免疫但可缓解过高估计」，两种表述并排不做调和；逐时点数值论文只在 Figure 里、HTML 无数值表，故只写 ≈0 / >2% / 最高 4pp 三个锚点，其余用区间条与方向表达、不插值

《AI 数据全书》第 6 章「语种识别与质量过滤」配套（与 aide-langid-filter 同章对向互链）——一个反着建的沙盘：整章都在教「怎么过滤得更好」，这里演示过滤这件事本身的天花板。① 交叉点沙盘（arXiv:2605.19407）：未过滤池 vs 五种过滤器双对数轴 loss 曲线，模型规模 × 池大小 × 过滤强度可调，交叉点自动打点读出「第 N epoch 后不过滤反超」，三条硬事实并列（15M 在所有训练步数下都无法超越前四种过滤器 / 330M+ 有限训练后超越全部五种 / 1B 交叉 epoch 随池增大从 1 推到 10）；⭐ 注入 junk 滑杆：+200% 打乱词序文档在 330M 上反而帮模型超过纯 CC 池（约 11B tokens 后反超），随机字符串组只收窄差距不反超，两组分画；顶部 10^30 FLOPs 对 5×10^26 的量级标尺 ② Wikipedia 换装实验室（arXiv:2605.23721）：同一段 SEO 垃圾页逐项勾选 infobox/章节标题/<ref>/分类标签/首段定义句，内容一字不改地看 CQF 分数被拉过保留线，文献锚点仅重新格式化即逆转约 7% 文档的过滤决策，并可把分类器反过来套到维基百科自己身上（约 5-15% 正例被判低质量）③ 质量过滤 ≠ 安全（arXiv:2610.01367）：100 条投毒混进 1900 条 Dolly，过滤率滑杆驱动「直白有害 vs 看似正常」两条存活曲线张开成剪刀差，90% 过滤下后者保留率仍 >90%、harmful score 1.13→3.30-4.01 ④ 消融表的污染纠缠（§6.9.3 + arXiv:2510.25771）：65.2/去启发式-1.5/去质量分类器-3.1/去PPL-0.4/去误杀恢复-0.7/全去60.3 可交互，一键切换「是否做过去污染」看 DCLM 分类器把 benchmark 样本排进前 5 百分位如何让「去质量分类器」的贡献缩水 · 全部数据标 📖/🧮/⚠️ 三标记并附一手源外链

arXiv:2610.01618《Agents Are Systems, Not Models》——约 54% 的结果方差来自「同一套配置重复运行」而不是换配置（ICC 46.1%）；主流「跑 3 次取平均」后噪声仍占 28.0%，要压到个位数得 10 次起；5 次重复下 redshift 的 95% CI 半宽 = |R−T| 的 91.9%，比整条评分跨度还宽，而 promoter 只要 12.9%（同一目标精度所需 n 差 47 倍）；Table 9 实测 12 格显示「none 档加时间反而更差 −0.429→−0.713，interface 档才 −0.605→−0.380」；提示 agent 自查在三个任务上效应量全部垫底（0.077–0.131σ），给一个 oracle_check 工具才把 G 从 0.822 拉到 0.923、校准误差 0.093→0.002

arXiv:2610.19447 BenchChecker——不走文本 n-gram，改做代码仓库取证：阶段① 代码前缀探针推断仓库是否进训练、阶段② 相似性对齐 + test-suite 验证 patch 是否仍在快照里，AUC≈0.9 跨 6 个 benchmark；过滤污染后 medium 难度解决率相对下降 >20%，而书上那句「5-15%」既无出处也无难度限定；含三通道 fail-closed 归因与「修复代价曲线」临界点求解器

arXiv:2610.10049（2026-10-07）——30 vignette × 4 档思考上限 × 4 模型家族 = 12,350 次 API 调用。⭐ 题眼是方法不是结论：「请求上限 ≠ 实际思考量，所以用实际消耗的 token 当剂量」。① 剂量 vs 应答双曲线（按请求上限 vs 按实际消耗分组，两条斜率差 7 倍，落差直接标在图上）② 适应证混杂模拟器（难题既诱发更多思考、本身又更偏；🧮 蒙特卡洛 + OLS 真算，β₂ 一拖结论从「显著保护」翻成「显著有害」，8 种开关组合同数据三结论，且与解析遗漏变量偏误 β₂·cov/var 对得上）③ N 到底是多少（n=30 时 t=1.45 p=.157；把 12,350 次调用当独立样本 t 暴涨到 29.4；ICC 滑杆证明有效样本量天花板是簇数 30 不是调用数）④ 六偏见审计卡（锚定是唯一朝人类方向 d=1.89；「复述锚点」指令 5/5 条有效但 p=.057，加思考预算 0/5 有效）