读心术谱系：四代不是军备竞赛

四代读心术的目标轴各不相同，而作者名单高度重叠——SAE · AO · NLA · J-Lens 是同一批人的连续产出

⭐ 题眼：Kit Fraser-Taliente 同时是第二代 AO 论文第 4 作者与第三代 NLA 论文共同一作；Kantamneni 与 Ong 横跨 AO / NLA / J-Lens 三篇。 「四代更替」在人员上不成立。局限矩阵 20 格里留白 35%——留白率本身就是结论。

🔭 读心术谱系：四代不是军备竞赛

从「看神经元」到「问模型」到「让模型说人话」到「算梯度看隐藏工作区」——四代的目标轴各不相同， 而作者名单高度重叠：这是同一批人的连续产出，不是四方竞逐。本页拒绝一边倒，把每一代的局限、 每一格评分的判据、以及没有评估的地方一起摆上台面。

📖一手来源：论文 / 官方博客 / 开源实现🧮本站真算：由本页数据按公式现算，非抄来的数字⚠️本站设定或未回源：定性判断、教学参数、尚未回到一手出处

目标轴切换器

同一批卡片，换一种排布就是另一种故事。旧版只有第一种排法，于是被读成了「后浪拍前浪」。

按时间四代按上线时间排——这是最容易读成「后浪拍前浪」的一种排法
🗣️
NLA自然语言自编码器③ · 2026-05
说人话：激活 → 人话 → 激活
方法族
生成式解释
让模型（或另一个模型）用自然语言把激活讲出来
是否需要 ground truth
部分需要
重构损失是自监督的；但论文用 RL 优化的可验证性 / 审计任务需要可判定的真值
激活值 a(l)
AV 语言化器
→
自然语言解释
「我想…」
→
重构激活
AR 重构器 → a(l)
FVE⚠️
0.6–0.8
本轮未回源，沿用旧值
审计提升📖
4–5 倍
基线 <3% → 12–15%
训练方式📖
无监督 + RL
联合优化 AV 与 AR，用 RL 最小化重构损失
代表案例
  • ⭐grab it → rabbit 押韵预规划 + 因果干预改写输出
  • ·工具调用误报：静默否决被篡改的工具输出
  • ·vodka → 俄语：训练数据污染根因揭示
⚠️ 局限（每格矩阵的判据就是从这里派生的）
  • ▸confabulation：会虚构它以为看到的细节
  • ▸私码：虚假措辞也能重建（5/5 运行）
  • ▸对偶架构 + RL 训练成本高
📖 出处（论文名与博客名分列）
第三代：第一次让解释「人类可读」，但重建 ≠ 忠实——信任裂缝在这里第一次变得可见。
⚠️ 本页的「四代」是本站归纳，不是文献里的分类。四者目标轴不同（拆特征 / 答问题 / 生成解释 / 算梯度），作者名单高度重叠。把它读成「军备竞赛、后浪拍前浪」是错的。

🧭 结论：四代读心术不是谁替代谁，也不是四条赛道上的军备竞赛——是同一批人在四年里换着四种手段逼近同一个问题。 SAE 给了可操作的稀疏特征，AO 给了定向提问，NLA 给了人话解释，J-Lens 给了隐藏工作区。 换一种排布（方法族 / 是否需要 ground truth）就会得到另一种分组，这正是「目标轴不同」的证据。 剩下的难题不是看得更深，而是如何证明我们看到的不是幻觉——这一格目前四代都还是灰的。

数据快照 2026-10-21 · 引文经逐条回源；标注为 ⚠️ 的条目尚未回到一手出处，不作为结论使用。