数据论文速递 · 2026年11月09日

本期速递聚焦后训练数据配方：五篇论文分别从配比、难度构成、token 粒度加权、合成数据验证、训练数据审计五个角度，给出可以直接进管线的结论。选文窗口为 10 月 30 日至 11 月 5 日，全部经过 abs 页核验。

窄域微调的能力代价：一份 0.8B 到 32B 的配比账本

论文信息：Honest Small Decision Models for Finance: Scale, Specialization Collapse, and Mixed-Corpus Remediation，arXiv:2611.03755，https://arxiv.org/abs/2611.03755

核心问题：小模型做垂直域微调时，通用能力到底损失多少？这笔账随模型规模怎么变，有没有补救办法。

关键发现：作者在两个模型家族、0.8B 到 32B 共九个规模档位上，用同一套冻结 LoRA 配方训练金融决策模型。窄域微调让通用决策能力损失 9 到 45 个百分点，这是一个明确的数据配比效应——规模越小损失越大，且与窄梯度体积相关。在真实收益标注的 19,640 个前瞻问题上，所有档位的准确率都落在先验基线（0.37 到 0.38），模型给出的概率平坦且校准良好。混合语料修复方案用一个 adapter 装下全部能力：公开基准上追平甚至略超通用专家，金融域保持近专家级校准；2B 档校准最优（ECE 0.026），9B 以上因先验漂移退化到 0.043 到 0.044。

实践启示：垂直域项目启动前先算配比账，规模越小越需要混入通用语料；金融预测类任务里，校准与分派（什么时候该交给规则、什么时候该转人工）比追准确率更值得投入；单一 adapter 加分域温度机制是可行的交付形态。

RLVR 的先入为主：难题才是能力扩展的来源

论文信息：On the Primacy Bias in RLVR Training，arXiv:2611.04061，https://arxiv.org/abs/2611.04061

核心问题：RLVR 究竟在扩展基座能力，还是只锐化了已经学会的东西。

关键发现：论文提出 primacy bias 视角——模型过度依赖已习得表征，混合数据训练时 RLVR 倾向于继续拉开易题分数，难题只有边际增益。控制实验给出一个反转：难题恰恰是扩展推理能力、推动表征变化的主力，但在难题上训练太久会遗忘易题。这一机制解释了此前互相矛盾的观察——在基座表现差的 OOD 域，难题增益能扩展推理；在已经训练充分的域，遗忘会掩盖来自难题的真实增益。

实践启示：RLVR 数据按难度分层管理是值得的投入；难题的收益真实但有遗忘代价，难度混合或课程化安排是对冲手段；评估 RLVR 是否真在扩展能力时，看难题区间的增益比看总分更有信息量。

SFT 的 token 加权：先看它诱导的目标分布

论文信息：Self-Privileged Fine-Tuning，arXiv:2611.04632，https://arxiv.org/abs/2611.04632

核心问题：token 级加权（按模型输出分布给每个 token 定权重）到底把 SFT 的优化目标改成了什么。

关键发现：作者从理论上刻画了各类加权方案诱导的目标分布：动态加权（如 DFT）诱导严重锐化的分布；静态加权拟合的是数据分布与一个冻结先验的乘积，稳定性取决于先验质量。基于此提出 SPFT——用初始模型的一份冻结副本、输入特权信息（比如数学题的标准答案）后输出的分布当先验，再按每个 token 对预测真值的贡献重加权。数学推理与代码生成实验中，SPFT 超过标准 SFT 与各基线。

实践启示：选加权方案前先分析它诱导的目标分布，锐化过强的动态方案有训练不稳定风险；静态加权的效果上限由先验质量决定，答案条件化的模型输出是零成本的高质量先验来源；这条路线不需要改模型结构，改 loss 即可落地。

合成 CoT 的步级验证：7B 合成器打赢 72B 教师

论文信息：VCoT-SQL: Enhancing Text-to-SQL Generation through Dual Chain-of-Thought Validation Training，arXiv:2611.00815，https://arxiv.org/abs/2611.00815

核心问题：合成 CoT 训练数据只验证最终答案，推理链里的坏步骤会污染整个数据集。

关键发现：VCoT-SQL 用子句级 CoT 模板生成 Text-to-SQL 推理链，每一步都过执行校验与 schema 对齐检查；另训一个诊断 CoT 校验器，检查语法、语义、类型三层错误；配合分层 schema 过滤收敛相关数据库元素。效果是 BIRD dev 执行准确率 66.82%、Spider 86.8%，7B 基座提升 7 个百分点。最有分量的对比：CoT 合成只用 7B 模型，效果超过用 72B 甚至闭源模型当教师的数据生成方法。

实践启示：合成数据的质量天花板由验证深度决定，不是教师模型规模；「小模型生成 + 步级校验」是合成管线的省钱路线；生成器与校验器分工的双模型结构，值得在其他可执行验证的领域复制。

成员信号的机制拆解：可解码不等于被使用

论文信息：From Representation to Readout: Mechanistic Analysis of Membership Signals in Language Models，arXiv:2610.41445，https://arxiv.org/abs/2610.41445

核心问题：判断某条样本是否在训练数据里（成员推断）时，模型的记忆信号究竟存在哪里、怎么被读出。

关键发现：论文提出三个互补指标（DUG）：表征中可解码的成员信息量、实际被 readout 使用的信息量、两者之间的可及性差距。SFT 类成员推断下两个量都变化；RL 类方法下变化主要出现在 readout 侧。激活修补把这种成员特有效应定位到中间层。最实用的发现在 RLVR 污染场景：当训练奖励与参考解无关时，模型行为出现变化（分数提升），但基于似然的成员推断信号不升——污染可以躲过常规检测。

实践启示：污染审计不能只看行为面和似然分数，内部表征层的审计更可靠；RLVR 环境里如果题目集与评测集重叠，成绩提升未必是能力增长，需要专门的污染检测；DUG 式「表征与读出分离」的测量思路，对审计工具设计有直接参考价值。

小结

五篇论文合起来看，后训练数据配方有三个刻度：配比层面，窄域微调的能力代价随规模缩小，混合语料是标配解法（2611.03755）；难度层面，RLVR 的真实增益藏在难题区间，代价是易题遗忘（2611.04061）；粒度层面，token 级加权的先验质量决定上限（2611.04632）。工程侧两条线同样值得跟进：合成数据靠步级验证而非教师规模取胜（2611.00815），污染检测需要从行为面下沉到表征面（2610.41445）。