给多加的那一层定价:Agent 架构的减法时刻
同一周里,复杂记忆架构输给朴素 RAG,多智能体在双控制场景输给单智能体。真正有收益的加法只剩两类:按动作定价的验证,按决策差异定价的信用分配。
引言:一周之内,两个方向一起做了减法
2026 年 10 月 22 日前后,arXiv 上冒出一批方向一致的论文。西安交通大学团队的 Raw-RAG 在长程对话记忆任务上跑了七组「基准 × 模型」设置,六组第一,比参与比较的最强 agentic memory 系统高出 0.13 到 5.53 个点 [1]。同一周,一项预注册研究在 τ²-bench 三个业务域跑了约 7950 次模拟对话,结论是多智能体在 13 个有效单元里 12 个输给单智能体,加权均值 −28 个点 [2]。
有意思的不是谁赢,是它们否定的是同一类动作:往系统里多加一层结构。过去两年 agent 架构的默认动作是加——加记忆模块、加角色分工、加投票机制。这一周的数字说,加之前得先算账。
算账的结果并不一律否定加法。拿到收益的加法做法一致:都把新结构装在「决策的差异」上。下面按记忆、协作、验证、训练四层拆开。
记忆层:复杂结构买来的不是组织,是覆盖
Raw-RAG 的做法定得极简:对原始历史做稠密检索加重排,把证据交给阅读模型,不做 mutation,不做结构化组织,也不学检索策略。它在 LoCoMo、LongMemEval、MEME、MemoryAgentBench 上拿到六组第一 [1]。
作者的解释落在证据分析上:原始历史的必要证据覆盖率更高,这份优势足以抵消利用率的不足。 需要记住限定域:论文把自己的结论明确收在「所评估的对话任务」上,否定的是复杂记忆在这一族任务上的必要性,不是否定结构化记忆在其它任务族的价值。更值得记的一句是——即便让模型完整访问转换后的记忆库,相对直接使用原始证据仍有准确率缺口。复杂记忆做的,是把同一批信息换一种摆法;丢分发生在转换过程里,不是摆法本身不够精巧。有用证据既包含答案值,也包含推导答案所需的关系与依赖路径,后者恰好是压缩式记忆最容易丢的东西。
同周的《The Value of Memory in Language Agents》给这件事配了计价单位 [3]:记忆的价值被表达为「避免掉的任务损失」。框架里有个反直觉结论——一个与答案互信息为零的指针,仍然能降低精确恢复的成本。记忆的价值可以不来自它装了什么,而来自它让系统少走了哪一步。
这篇论文在 LoCoMo 与一个双项目更新任务上的诊断把失败分成保存、使用、测量三类。第三类最容易被忽略:固定检索证据时,换一份已保存的台账就改变后续答案;固定 agent 输出时,换一个评估器修订就改变分数。一部分「记忆能力提升」测的其实是测量口径。
参数化记忆也在做减法:Deep Fusion Memory 不在推理时检索,改由因果记忆预测器生成记忆后经门控交叉注意力融进隐藏状态,构造训练数据所需的检索查询比同类方法少 32 倍、检索条目少 2048 倍 [4]。
协作层:多出来的 agent 究竟改了哪个决策
多智能体这一层被质疑得更狠。那项预注册研究把此前在自主基准上得出的「能力饱和规则」搬到有人参与的双控制场景检验:原规则说协作在单智能体弱时有用、强时有害,交叉点约在单智能体 45% 准确率附近 [2]。
结果不是规则被平移,是规则失效。约 7950 次对话、六个模型三个家族的规模下,13 个有效单元没有任何一个显示多智能体收益:12 个更差,1 个打平,拟合增益在全能力区间为负(加权均值 −28 点,95% 置信区间 [−44, −12])。原规则预测应有收益的两个单元,多智能体分别输了 13 点和 22 点。取消预算上限后最多勉强打平,代价是 5.5 倍于单智能体的 token。
更细的一点:多智能体没减少错误的数据库写入,它把其他失败转化成了预算耗尽与不作为。作者也标注了一项未满足的有效性门槛——planner 从未看到工具的 schema。
两项限定必须一起读。第一,原规则里「收益随能力上升而衰减」这件事在本研究中没有定论:拟合斜率 −0.41,95% 置信区间 [−1.51, +0.68] 跨过 0,模型与业务域的交互项盖过了主效应。所以这一周被推翻的是「存在 45% 交叉点」这个点预测,不是「协作收益与能力有关」这个方向。第二,唯一一处多智能体占优出现在最靠近 45% 的那个单元,且换用第二个模拟器才出现——即便规则失效,它对自身最有利的区间仍然给出了一个例外。
群体动力学给出了机制解释。一项沿用 Music Lab 设计的研究让大群 LLM 智能体推荐不熟悉的歌曲,部分群体被暴露于累计推荐数,暴露组出现失控级联 [7]。与人类相比,LLM 群体更易从众,也更不会自我纠正。
加一层协作无效,不等于协作这个方向错了。Muffin 是反例:编排器按推理需求路由,只有难查询才进多智能体,多智能体间通过共享内存缓冲异步交换中间发现,各 agent 的私有推理保持本地 [6]。20 个基准设置里 17 个拿到最佳准确率,平均提升 19.2 个点,token 用量下降 77.4%。
三份材料并排看,分界线很清楚:收益不来自多一个发言者,来自共享的状态改变了一个个体做不了的决策。轮流发言改的是「谁来说」,共享缓冲改的是「手上有多少证据」。
验证层:费用由动作决定,不由记忆决定
记忆这一侧最有工程价值的工作,把验证从记忆的附属属性变成了动作的附属属性 [5]。长生命周期 agent 依据跨会话记忆行动,不少动作不可逆,一条过期记忆可以直接变成损害。既有工作都在改进记忆本身——检索、刷新、调和条目——可一条记忆要不要用前复核,并不是这条记忆自身的属性:同一个记住的地址,日常发货可以免检,贵重件就该重新确认。
AMV-Guard 把这个判断形式化成序贯停止问题:一次验证只有在能改变 agent 下一步做什么时才值这个成本。动作后果的加大会把同一条记忆依次推过「直接执行」「先验证」「直接弃权」三种状态。实现上它抽取候选动作依赖的记忆前提,校准出错信念,再按有界信息价值挑检查项。
ToolSandbox 上,相对拿到同样输入的静态策略,平均验证成本下降 33.9%,安全执行召回保持 100%,通过闸门造成的损害为 0,执行覆盖率从 38.83% 升到 44.17%。迁移到 AppWorld 时只带走停止与信息价值的核心,验证成本下降 21.3%,代价是安全执行召回与任务成功率的小幅回落。
成本降下去,覆盖反而升上来,说明原来的静态策略在大量低风险动作上过度验证。这笔钱不是省出来的,是重新分配出来的。
训练层:信用发给差异,不发给结局
训练侧的加法也在同一条逻辑上。agentic 强化学习给整条 episode 打分,策略需要的却是内部每个决策的信用。反事实分支在某个决策点重跑一遍,可分支的采样噪声与真实 episode 独立,结果差异里混进了后续步骤的运气。
TWICE 抓住了 agentic search 的一个事实:retriever、语料、grader 都是确定性的,一条 episode 就成了策略决策加采样噪声的确定性函数,双生世界可以实现——同一份噪声,一个不同的决策 [8]。它把每个 token 的 Gumbel 噪声按轮次与行号做键控,让反事实孪生继承真实 episode 的下游噪声,把成对结果差转成轮级优势。
这份信用对任意耦合质量都是无偏的,方差等于独立反事实的方差乘以 (1-\rho),(\rho) 为孪生结果相关性;耦合条件下分辨大小为 (\Delta) 的优势所需 rollout 数从 (\Theta(\Delta^{-2})) 降到 (\Theta(\Delta^{-1}))。预算怎么花也有规则:一条平方根律把孪生预算投到「单位成本下预测分歧最大」的决策点上。七个问答基准上,TWICE 把 GRPO 的平均精确匹配在 Qwen2.5-3B 与 7B 上分别提升 5.3 和 4.5 个点,辅助 token 比 VinePPO 少 68%。
面向长程编码 agent 的 RIPPLE 指向同一位置的另一半问题 [9]。它描述的是「批评到动作的交接缺口」:agent 看得到失败、写得出像样的批评,接着沿错误轨迹继续走。RIPPLE 用一个只能看前缀的教师提供有证据支撑的恢复监督,蒸馏之后用强化学习给触发反思、诊断、纠正动作分阶段发信用,并用局部有效性信号给轨迹优势设闸门,避免中间恢复决策无差别继承终局结果。四个仓库级基准上平均提升 4.8 分,部署时不带辅助 critic。
一个改噪声怎么配对,一个改信用怎么分层,共同点是不接受「结局好就把功劳平摊给每一步」。
行业侧:从拼装到原生,以及账本的另一边
产业侧出现两种相反信号。
一种是原生化:MemT 1.0 把记忆焊进了 Transformer:在选定的模块里加一条与原有注意力并行的记忆计算通路,经验被编码成可更新的矩阵状态,生成时由专门的记忆分支读出并与注意力输出融合 [12][13]。两个型号是 36B / 3B 激活的 Nano 与 288B / 17B 激活的 Flash。
500 项 SWE-bench Verified 任务、每项独立运行三次的设置下,Nano 在关键断点的平均成功率为 69.73%,无经验基线 66.07%,文本经验组 69.13%;三次全部成功的比例从 54.00% 升到 62.80%(文本经验 61.80%)。它赢的不是平均分,是可靠性。消融把逐 token 更新换成整轮聚合,Nano 的记忆基准均分从约 47.0 掉到 41.0。成本侧更能说明原生动机:同样 128K 长历史下,Nano 的端到端推理速度约为完整上下文方案的 1.86 倍,每条轨迹的持久状态占用是其 KV Cache 的六十六分之一。团队也直说了代价——精确删除、解释与恢复需要额外机制,长历史细节召回上文本记忆仍占优。
另一种是把账算清。DoorDash 用多智能体系统清理特性开关:56,000 多个开关分布在 623 个仓库,截至 2026 年 5 月有 1,659 个过期,人工清理每个估计 1 到 2 小时 [11]。系统通过 MCP 查询线上开关放量数据、处理 Jira 工单、端到端创建 PR,在评估的 50 个过期开关里产出 45 个(90%)获工程师批准的移除 PR,平均每次 4.79 美元、13.8 分钟。
这个案例的说服力在于一次给出三个数:成功率、单次成本、单次耗时。同期 Apollo 的首席经济学家 Torsten Slok 给出另一半账本——他跟踪的「标普 493」(标普 500 剔除七家科技巨头)里,利润率与人均营收都看不出 AI 带来的改善,原文的说法是「zero financial payoff」[14]。两边不矛盾:单个任务的成本账算得清,不等于组织层面的收益账算得清。产业侧仍在往同一层加码:Anthropic 的 Claude Duet 以研究预览形式开放、首批仅限美国 Pro / Max 订阅用户候补 [15],OpenAI 的 Decisions API 正式转为 GA、目前只支持 gpt-6-luna 一个模型 [16]。
展望:架构变更自己也需要闸门
改架构这件事本身也该有验收标准。CMAS 把元智能体架构搜索形式化为带切换成本与硬风险约束的序贯 incumbent 替换 [10]:检索归档架构、提出类型化图编辑,再用共同随机数下的配对影子回放给候选打分。晋升要求经验校准的、带方差惩罚的联合得分超过预设边界,之后过模拟金丝雀阶段,并预置回滚。
96 条数据流上,CMAS 把归一化的替代动态预言机遗憾从 0.116 降到 0.104,留出效用从 0.44 提到 0.48;增加的 worker 不带来价值时,它会收缩到接近单智能体的规模。
它的成本账要两面读:部署期推理成本约低 6%,但把搜索期 token 一并计入,它是所有对比方法里最贵的一个。这正好是「拆掉它省下的钱去哪了」的反面样本——省在运行时,花在搜索期,只报一侧就会读反。为支撑这类判断,作者另建了 MetaInvest-Bench:一个带机制切换的模拟器,替代最优架构可解析计算,配泄漏受控的回放、对抗式治理轨道与五条阴性对照。最该被抄走的数字是误晋升率:观测到 3.4%,名义目标 5%,密封重跑 4.8%。作者一并声明,这个校准只针对自设计基准上的一个更新级回放统计量,既不保证整体效用改进,也不保证序列级错误控制。
自我改进这条线上的位置也清楚了。递归自改进被拆成记忆、反馈、验证与更新机制三块拼图,MemT 1.0 补上的是记忆这块——让一次改进成为下一次的起点。剩下两块本周没有任何工作给出可复现的量化;CMAS 的保守晋升接近第二块的雏形,却拒绝声称自己具备元层级技能。尚未收口的是原生记忆与外部记忆如何分工:精确原文与来源查外部记录,经验调用走原生机制。这个切法要成立,得先有人回答「哪些经验值得进参数」。
结论:加结构之前的三个问题
把材料收拢成判据表,加任何一层结构之前先过三个问题:
| 问题 | 通过的样子 | 本周的判例 |
|---|---|---|
| 这一层改变了哪个决策? | 能指名一个具体决策,且它在新结构下取值不同 | TWICE 改的是「同一噪声下的另一个决策」;轮流发言改不了任何个体决策 |
| 这个差异能被单独观测吗? | 有配对或孪生设计,能把差异从背景噪声剥出来 | AMV-Guard 按信息价值选检查;CMAS 用共同随机数做配对回放 |
| 拆掉它省下的钱去哪了? | 成本、延迟或覆盖至少一项有可报数字 | Muffin 用少 77.4% 的 token 换 19.2 点;多数多智能体只报准确率 |
把本周拿到收益的四项工作按「加法装在哪里」排一遍,会多出一条比「加或不加」更可执行的判据。TWICE 训练时造孪生、部署时只留 actor;RIPPLE 训练时带教师与分阶段信用、部署时不带辅助 critic;CMAS 的开销集中在搜索期,部署期推理成本反而低 6%。三者的加法都发生在一次性的阶段。反过来,复杂记忆与轮流发言是常驻在推理期的结构,也正好是这周被减掉的两类。Muffin 是唯一的例外:它在部署期多留了结构,赢的前提是编排器按推理需求路由——只有难查询才进多智能体,等于把常驻改成了按需。
最常被跳过的是第二个问题。多智能体在双控制场景输 28 个点,不是协作这个想法不好,是没有人先证明「多一个 agent 改变了哪一步」。记忆架构被朴素 RAG 反超,也不是组织得不够好,是转换损失从来没被单独量过。
Agent 架构过去两年的增量,很大一部分来自把新模块接上去看分数涨不涨。这一周的信号是:接上去之前先问清楚它动了哪个决策,量完再决定留不留。这套做法比继续堆模块慢,但它是唯一能把账算平的路。
参考来源
- [1] Is Complex Agentic Memory Always Needed? Naive RAG Is Stronger Than We Thought — https://arxiv.org/abs/2610.30755
- [2] Does Multi-Agent Collaboration Pay When Agents Serve Users? Testing Agent Scaling in Dual-Control Settings — https://arxiv.org/abs/2610.27655
- [3] The Value of Memory in Language Agents — https://arxiv.org/abs/2610.31303
- [4] Deep Fusion Memory: A Chunk-Level Parametric Memory for Large Language Models — https://arxiv.org/abs/2610.25100
- [5] When Is a Memory Safe Enough to Act On? Action-Conditioned Verification for Long-Lived Agents — https://arxiv.org/abs/2610.31446
- [6] Muffin - A Shared Memory Buffer for Asynchronous AI Agents — https://arxiv.org/abs/2610.31355
- [7] LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades — https://arxiv.org/abs/2610.30769
- [8] Same Luck, Different Choice: Twin-World Credit Assignment for Agentic Reinforcement Learning — https://arxiv.org/abs/2610.31544
- [9] RIPPLE: Recovery Internalization through Process-Level Policy Learning and Effect-Aware Credit for Long-Horizon Agentic Coding — https://arxiv.org/abs/2610.31276
- [10] Conservative Meta-Agent Search: Architecture Adaptation under Non-Stationarity — https://arxiv.org/abs/2610.31436
- [11] Automating Feature Flag Cleanup at Scale with Multi-Agent LLM Systems: An Industrial Experience at DoorDash — https://arxiv.org/abs/2610.31351
- [12] RSI 三块关键拼图,MemT 1.0 从模型层补上「记忆」(量子位,2026-10-20) — https://www.qbitai.com/2026/10/504456.html
- [13] MemT-1.0: Towards Memory-Native Evolution(MemT 1.0 技术报告) — https://arxiv.org/abs/2610.26825
- [14] AI delivers ‘zero financial payoff’ to most companies, Apollo economist says(TechCrunch,2026-10-25) — https://techcrunch.com/2026/10/25/ai-delivers-zero-financial-payoff-to-most-companies-according-to-apollo-economist/
- [15] Claude Duet(Anthropic 官方产品页) — https://claude.com/product/claude-duet
- [16] Decisions(OpenAI 官方 API 文档,Decisions API 已 GA,当前仅支持 gpt-6-luna) — https://developers.openai.com/api/docs/guides/decisions