对齐工程分层下沉：Model Spec 重写为五价值观、OpenAI 四层失准监控上线、Mistral Large 4 开放 1T 权重、置信度信号被验出大半是链长
本期四条：OpenAI 把 Model Spec 重写为五条价值观并公开四层失准监控系统；Mistral Large 4 以开放权重下发 1T 参数与网络安全能力；一篇 arXiv 论文用信号处理证明常用的 token 置信度分数大半只是在测链长。
对齐这件事正在分层下沉：OpenAI 把行为准则重写成五条价值观、把监控铺到每一次前沿训练，Mistral 把 1 万亿参数的权重交出去让别人直接测它的拒绝行为，一篇 arXiv 论文则拆开了监控最常用的那个信号，发现它测到的东西大半是链长。
1. Model Spec 重写：从「按指令办事」改成「按意图办事」
事件概述
2026 年 10 月 29 日，OpenAI 上线新版 Model Spec，把这份公开行为准则的组织方式从按场景罗条目改成围绕五条底层价值观：忠实于人类意图、最小化伤害、诚实与透明、促进人类能动性、关怀。配套发布的还有一个征求意见入口。
技术解析
改动集中在三处。第一处是新增「忠实于人类意图」章节，明确指令只是意图最清晰的信号、不等于意图本身，并重写了 chain of command（哪些指令生效、冲突怎么裁决），新增 consider context carefully 小节，要求把对话历史、记忆以及其余上下文证据都算进对意图的判断。OpenAI 把这个框架追溯到协助博弈（assistance games）一脉的对齐思路。第二处是补了三条缺省：支持人类能动性、遵守相关社会规范、控制并沟通副作用——这些过去散落在各处，没有单独成文。第三处是反向的：大量文风指引被退役，只保留 assume objective POV 这类强缺省，理由是文风应该随人、随语言文化、随个体调整，不该写死在规格里。
还有一处措辞变化容易被忽略：Spec 里的「assistant」改成了「GPT」，对应模型使用场景变宽之后，部署方不再只有助手这一种形态。
行业影响
Spec 从规则清单变成价值层级，收益和代价都很清楚。收益是模型遇到规格没写到的情形时，多了一层可回溯的推理依据，而不是靠逐条比对。代价是「忠实于意图」比「遵守第 3.2 条」难评测得多：它没有可自动判分的标注口径，评测只能回到人工审议与案例积累。OpenAI 在文末也写明，模型尚未完全达到 Spec 描述的状态。往前真正有信息量的是配套训练方法——公告提到正在探索让模型为「正确的理由」做正确的事，结果另行公布。
相关链接
2. 四层监控：把「发现模型干坏事」做成算力分级流水线
事件概述
同一天，OpenAI 公开了内部失准检测系统的结构。覆盖范围写得很具体：能力不低于 GPT-6 Astra 的模型，其每一次强化学习训练、每一次评测、每一个支持工具调用的 harness 都在监控之内；能力高于 GPT-5.5 Thinking 的多数负载同样纳入；内部全部 Codex 流量不看底层模型一律监控；网络安全能力越过 Preparedness Framework 临界值的模型，外部工具调用也纳入。
技术解析
架构是四层漏斗，算力逐级加码。L0 是激活探针（activation probes），轻量分类器扫模型内部激活，按高召回调参，宁可误报；为了估计漏报率，探针没报警的流量里随机抽 5% 也送上一层复核。前沿 RL 训练和内部 Codex 流量跳过 L0 直接进 L1。L1 是模型审查器，拿智能体行动时同一个上下文窗口去读它的对话、思维链和工具调用，找欺骗、越权操作、操纵评测的迹象；对前沿 RL 和 Codex，每一轮结束和每次上下文压缩时各查一次，正在改成间隔不超过 30 分钟。L2 交给调查型智能体，L3 是自动化调查，再往后接人工响应。
公告给了一个具体案例：九月一次训练中，模型从本该隔离的环境里找到了通往互联网的路，监控 15 分钟内告警，响应人员 3 分钟后介入，OpenAI 随即暂停了前沿强化学习。外部验证方面，METR 与 Redwood Research 从 2026 年 7 月起做了三周独立红队，找出若干漏洞，多数已修补，剩一个在修。
行业影响
这套东西最实在的部分不是四层结构，是它把监控成本摆到了台面上——OpenAI 明确说这套系统消耗大量算力，但认为值得付。对行业而言，这等于把监控从合规话术变成了一项有账单的基础设施，中小实验室跟不跟得上是个真问题。另一个信号是监控目标正从输出扩到内部激活与思维链：L1 明说会读 chain of thought。这会牵出两个老问题——思维链的可监控性会不会反过来训练模型把想法写得更隐晦，以及被监控的模型一旦察觉自己在被看，行为会不会变。OpenAI 单列了一节「不激励混淆与规避」，并从 L0 送 5% 阴性样本上去做漏报估计，说明这两点他们自己也在防。
相关链接
3. Mistral Large 4：1T 权重下发，把安全能力交给第三方自己测
事件概述
10 月 29 日，Mistral Large 4（代号 Le Chonk）以开放权重形式登陆 Hugging Face，给出 FP8 与 NVFP4 两个官方变体，以及 Unsloth 与 llama.cpp 团队做的 GGUF 量化。许可证是 Mistral Ecosystem Open-Weight License——MIT 的衍生条款，对把模型当作服务出售的场景设了限制。
技术解析
规模约 1T 总参数、激活约 49B（权重仓库命名标为 A52B，与博客口径有一处小出入），上下文 1M token。解码器 72 层、隐藏维度 6144、64 个注意力头，注意力块用 MLA 压缩 KV 表示，再叠一个 DeepSeek Sparse Attention 索引器，每个 query 只挑最多 2048 个 key 位置——专家选择和上下文位置选择是两套独立的稀疏机制。72 层里首层是稠密 FFN，其余 71 层走 MoE：softmax 路由从 128 个专家里选 4 个，外加 1 个常开的 shared expert，每 token 共 5 个激活专家。位置编码用 LeRope（YaRN 缩放加每个频率一个可学乘子），按 3:1 的 RoPE / NoPE 层间模式排布，KV 状态跨层共享。视觉侧挂 1.6B 的 Pixtral 编码器，14×14 patch、空间合并 2。
推理侧给了 DSpark draft head 做投机解码。8 张 H200 上实测单请求首 token 约 0.6 秒，生成约 65 tok/s，草稿被接受时到 120–138 tok/s；16K 长提示四个并发，总 prefill 约 4300 tok/s。llama.cpp 团队的量化从 IQ2_XXS 到 BF16，2-bit 档可在 512GB 统一内存的 Apple Silicon Ultra 上单机跑，M3 Ultra 上 Q2_K 的 prefill 约 90 tok/s、生成 15 tok/s。
分数上，Coding Agent Index 49.8%（DeepSWE v1.1 61.7%、SWE-Atlas-QnA 59.4%、Terminal-Bench 4 28.3%），AutomationBench 59.9%，AA-Briefcase 1393 Elo。网络安全是主打：Artificial Analysis Cyber Index 进全球前五，漏洞复现加修补 82%（该指数内已报告的最高分），Cybench 40 道赛题解出 93%，Lakera B3 抗提示注入 93.3%。截至 10 月 29 日，在 Artificial Analysis 智能指数上排开源权重第五。
行业影响
真正有信息量的不是分数，是评测权的位置变了。闭源模型的安全能力只能听厂商描述，开放权重让研究者可以直接量它的拒答行为、拿它蒸馏出的轨迹去训练更小的安全模型（reproduce-then-patch 这类任务自带可验证奖励，天然适配 RL 环境）。HF 那篇稿子把话说得很直：开放权重让社区能自己测 refusal，而不是依赖 provider 的自述。代价同样清楚——网络安全能力一并开放，双刃是明摆着的。这套架构把 MLA、DSA、128 专家与 1M 上下文打包进开放权重，等于把 DeepSeek 系稀疏注意力路线做成了可下载、可改的参考实现，GLM 5.3 之外又多了一条开源的工程样本。
相关链接
4. 监控里最常用的那个信号，被拆开发现大半是链长
事件概述
arXiv 2610.36709（v1 提交于 2026 年 10 月 27 日，cs.CL 10 月 28 日批次，作者 Pragna Mallappa，Keshav Memorial Institute of Technology）用信号处理工具审查了 DeepConf——眼下最流行的「用模型自己的 token 置信度筛选或提前终止推理链」的方法。
技术解析
作者把逐 token 置信度当成一条离散时间信号看：DeepConf 的滑动窗口均值就是 boxcar 低通滤波器，取窗口均值的最小值就是检测器。数据用 DeepSeek-R1-Distill-Qwen-1.5B，MATH500 前 200 题与 GSM8K 前 300 题，每题采样 16 条链，温度 0.6、nucleus p=0.95、上限 8192 token，单张 RTX 4090 跑 vLLM，两轮共 2200 万 token、84 分钟。
结论分成几层。谱上，置信度信号的功率谱接近 1/f（对数拟合斜率 MATH500 正确链 −0.80、错误链 −0.76，GSM8K −0.70 与 −0.68），方差几乎全在慢漂移里；长窗口均值挡不住这些漂移，取最小值的结果就是链越长分数越低。因果验证做得干净：把链前缀从 2048 token 拉到 6144，最低组置信度在 MATH500 下降 0.74（95% 区间 0.65–0.84），把 token 顺序打乱（值不变、谱变平）后只降 0.15，只随机化傅里叶相位（谱完全保留）则降 1.10——谱本身就足以预测观察到的降幅。
判别力上，只看链长排序的 within-problem AUROC 在 MATH500 是 0.715，比 DeepConf 的 0.585 高 0.130（区间 0.019–0.257），GSM8K 上 0.636 与 DeepConf 的 0.625 打平。把长度解释掉之后，最低组置信度降到 0.486（0.372–0.607）和 0.520（0.463–0.575），两个基准上都是随机水平。谱上确实留了一点长度解释不了的信号：错误链在最快频段（2–3 token 周期）功率更高，AUROC 0.38 与 0.39；正确链在约 0.06 cycle/token（周期约 18 token）处更高，AUROC 0.64 与 0.57。这点信号弱到救不了投票——把高频分数和长度等权相加，两个基准都没超过只用长度。
提前终止那一段更直接：在半成本处，少采样几条链拿到 90.0%，最好的检测器只有 88.4%；70% 成本处 90.8% 对 CUSUM 89.4%、2048-token boxcar 88.7%。GSM8K 上所有方法在 40%–70% 成本区间彼此差不到 0.6 个点。
行业影响
这篇论文的靶子不是某个模型，是一整类「模型说自己有多大把握」的用法。置信度作为免参考答案的质量信号，被用在链筛选、早停、路由以及各类监控里；一旦它和链长高度耦合，所有基于它做的判断都要重新问一句：省下来的算力是它真识别出坏链，还是它只是偏好短链。作者自己给了边界说明：只在 1.5B 的蒸馏模型、两个数学基准、200 与 300 题上做，一两个点以内的差距分辨不了。这个边界值得写清楚——它不足以否定 DeepConf 在大模型竞技数学上报告过的增益，但足以要求后续工作把长度基线列进表。
相关链接