MemT-1.0 把记忆焊进 288B 模型权重；Uni-Mem 让 4B 管理器学会存取；MemoryTax 称强模型不需要设计记忆；A5 用 Markdown+Git 做台账

一周之内，四份互不知情的工作撞上了同一个问题：记忆该建在哪一层。有人把它焊进权重，有人让它变成可训练的策略，有人主张干脆别建——而给出反例的那份，手里拿的正是当前最强的模型。

1. MemT-1.0：把记忆做成模型内部的一条并行通路，首次跑到近 3000 亿参数

事件概述

10 月 19 日，记忆张量（MemTensor）团队在 arXiv 提交 MemT-1.0 技术报告（署名 65 人），10 月 20 日量子位跟进报道。团队一次放出两个型号：MemT-1.0-Nano 共 36B 参数、激活 3B、动态记忆 1000 万，基座是 Qwen3.6-35B-A3B；MemT-1.0-Flash 共 288B 参数、激活 17B、动态记忆 3.36 亿，基座是后训练过的 DeepSeek-V4-Flash。论文把这条路线称为「记忆原生」（memory-native），并称这是该类模型第一次在接近 300B 的规模上完成工程验证。

技术解析

MemT-1.0 保留基座原有的计算流程，在选定的 Transformer 模块里加一条与注意力并行的记忆通路，参数分成三层：主干权重承载通用能力并在训练记忆时冻结；「超记忆」是读写投影与门控这类可训练参数，决定怎么编码、更新和读取；「局部记忆」是保存交互中新信息的动态矩阵状态。

更新机制换成了基于 Gated DeltaNet-2 的逐 token 更新，并做了稳定化处理，每一轮结束后靠门控调整已有记忆关联，轮内仍按 token 顺序调状态。容量不够时，团队用 MoS（Mixture-of-Storage）把一个记忆模块扩成多个记忆专家，走稠密融合——所有记忆专家都参与计算，路由权重只决定各自贡献，这与基座 MoE 的稀疏专家路由不同。训练分两阶段，语料共 34B token（继续预训练 20B、后训练 14B）；此前冻结的主干充当教师，看着完整历史，MemT-1.0 作为学生只看自己的记忆状态，再用 off-policy 蒸馏对齐教师分布。

数字方面：11 项记忆基准的平均分 Flash 50.6、Nano 47.0，在参数化记忆方法里排前两位，比最强的参数化基线高 12.5 点和 8.9 点。SWE-bench Verified 的 Harness-Triggered 设置下，Nano 平均成功率 69.73%，无经验基座 66.07%，固定 rank-1 文本经验 69.13%；三次全中（pass³）的比例 62.80%，比基座高 8.80 个百分点，比文本经验高 1.00 个百分点。SWE-bench Multilingual 的同一设置下是 63.56%，文本经验组 63.00%。工程侧，128K 历史长度下 Nano 的端到端推理约为完整上下文方案的 1.86 倍，每条轨迹的持久状态占用是完整上下文 KV Cache 的六十六分之一。消融显示，把逐 token 更新换成整轮聚合后，Nano 的记忆基准均分从约 47.0 掉到 41.0。

需要划清的是口径：这个「前两名」限定在参数化记忆方法内部，论文自己的表述是与检索增强方法「保持可比」，量子位转述时也提到文本记忆系统在长历史的细节召回上仍有优势。

行业影响

这条路线真正想换的东西是变量的位置。外部记忆方案里，经验能不能用上，主要看检索之后任务结果有没有变好；把记忆做成模型内部状态之后，「同样的经历换一种内部表示、更新规则和读取方式会不会更好」成了一组可以通过训练和架构设计去调的变量，团队称之为 Memory Scaling——在推理时扩展之外，再找一条性能增长曲线。对企业侧的意义也落在账上：长期会话的状态预算更容易估算，多个查询可以复用已构建的状态，分摊准备开销。代价同样清楚，精确删除、解释与恢复需要额外机制补上。

相关链接

• 论文摘要页：https://arxiv.org/abs/2610.26825
• 全文 HTML 版：https://arxiv.org/html/2610.26825
• 代码仓库：https://github.com/MemTensor/MemT-1.0
• 模型集合：https://huggingface.co/collections/MemTensor/memt-1
• 量子位《RSI三块关键拼图，MemT 1.0从模型层补上「记忆」》：https://www.qbitai.com/2026/10/504456.html

2. Uni-Mem：存什么和怎么取，交给同一个策略去学

事件概述

10 月 21 日，华为诺亚方舟实验室联合东南大学、中山大学、山东师范大学提交 Uni-Mem（arXiv:2610.29671）。它要修的问题是记忆管理两阶段的训练错位：Memory-R2、Mem-α 这类方法固定检索、只训构建；Mem-T 把检索侧的在线 RL 和构建侧的离线模仿拼在一起，在线侧持续更新共享策略，离线侧还锚在更早的策略和记忆状态上。

技术解析

Uni-Mem 用端到端在线 RL 训一个共享参数的记忆管理器，构建和检索一并学。GRPO 在这里有两个麻烦：一是组内比较混淆——每条 rollout 都把构建轨迹和检索续写耦合在一起，最终奖励混着两阶段的贡献，轨迹级优势分不清该归谁；二是长程信用分配稀疏——管理器一次 rollout 做几百次工具调用，奖励只在答题时给一次，而且记忆更新还会覆盖早先决策写下的条目。

对应的两个设计：Stage-Decoupled GRPO 把两阶段的贡献拆开，交替优化。做构建时绕开学到的检索，因为每条记忆记录保留着来源块的标识，可以直接按标注证据把相关记录聚起来，用冻结的答案模型打分，这个分数只反映「存了什么」，不受「怎么取」影响。做检索时让组内所有 rollout 共享一份从当前策略重采样的记忆状态，奖励差异就只剩检索的贡献。ECA（Event-Wise Credit Assignment）则把结果反馈定位到具体事件，再把事件级优势传播给构成它的操作。

在 LoCoMo 上（LLM-as-a-Judge，%），Uni-Mem 总分 88.80，Mem-T 76.49，Memory-R2 开源版复现 77.87，MemAgent 71.52，Mem0 53.30，RAG 12.17。同一套 harness 下换成标准 GRPO 只涨 0.37 和 0.46 个点，Uni-Mem 的 RL 涨 4.41 和 5.24 个点。更值得注意的是规模对比：训出来的 Qwen3-4B 管理器拿到 88.80，压过现成的 Qwen3.5-27B（87.05）和 Qwen3.5-397B-A17B（85.86）。消融里构建与检索的更新比 1:1 最好（88.80），偏到 1:2 是 88.15，2:1 是 87.24。

论文还挂出一组复现落差：Memory-R2 自报 80.99，换成本文对齐 Mem0 的判分提示词后实测只有 71.26；开源版自报 87.10，实测 77.87。差了约 10 个点，判分提示词一换就现形。

行业影响

Uni-Mem 把「记忆系统怎么搭」从工程选择题变成了优化问题，而它的成本曲线比分数更有说服力——4B 的专用管理器赢下 397B 的通用模型，说明在这类任务上，把预算投给针对性的策略训练比投给底座规模划算。那组复现落差则是给整个子领域的提醒：记忆类基准的分数对判分提示词高度敏感，跨论文比数字之前得先对齐协议。

相关链接

• 论文摘要页：https://arxiv.org/abs/2610.29671
• 全文 HTML 版：https://arxiv.org/html/2610.29671

3. MemoryTax：模型够强之后，精心设计的记忆变成一笔税

事件概述

同样在 10 月 21 日，上海交通大学 Zedong Peng 提交了一篇只有一项实验的短文（arXiv:2610.29823），对上面两条路线的共同前提提出质疑：Mem0、Zep 这类记忆系统在问题到来之前就决定留下什么，而编码类 agent 保留原始历史、让模型用自己的工具去搜。问题是——等模型强到能自己搜了，精心设计的记忆还有用吗？

技术解析

实验跑在 LoCoMo 的 conv-26 上：419 轮、19 个 session、152 道题（单跳 70、多跳 32、时序 37、开放域 13）。七种方法（全上下文、BM25、Mem0、Zep、Pi、Codex、Claude Code）配三个模型（GPT-4o-mini、GPT-6 Luna、Claude Opus 5.5），共 21 个 cell，每个 cell 记录整轮 rollout 的建库加答题开销。

分模型看结论是翻转的。GPT-4o-mini 下 Mem0 拿到 78%，高于全上下文和 BM25 的 74%，Zep 43%，编码类 agent 只有 63%、28%、29%——Codex 四次里有三次打不开对话文件。GPT-6 Luna 下顺序反过来：全上下文 92%、BM25 82%、Mem0 80%、Zep 51%，Pi 和 Claude Code 都是 91%、Codex 88%。到了 Claude Opus 5.5，Mem0 和全上下文都是 95%，BM25 90%、Zep 87%，三个 agent 反而最高：Pi 99%、Codex 98%、Claude Code 97%。

账也算得很细：Mem0 的建库一项就比同模型全上下文的整轮还贵，$0.56 对$0.43（4o-mini）、$0.45 对$0.29（Luna）、$25.88 对$17.84（Opus 5.5）。靠每题更便宜回本，需要问到 372、545、596 道题，LoCoMo 只问 152 道。天花板则写在写入者那一侧：Mem0 由 4o-mini 写、Opus 5.5 读是 84，由 Opus 5.5 写、Opus 5.5 读是 95；Zep 对应为 45 和 87。更强的读者补不回更弱的写者漏掉的东西。

口径上有一处必须点明：419 轮里 116 轮带照片，152 题里 64 题的证据落在带照片的轮次。agent 拿到的是含字幕的官方文件，记忆方法只拿到轮次文本。剔掉照片题后的 88 题上，Opus 5.5 的 Pi 是 100、全上下文是 99，只差一题。作者自己也把限制写死了：单对话、每 cell 单次运行、GPT-4o-mini 判分。

行业影响

这篇短文的价值不在结论的普适性，而在于它把「记忆系统值不值」这个问题换成了可计价的量：建库花了多少，要靠多少道题才回本，写入者的水平把上限压在哪。对做 agent 产品的人来说，判断顺序因此变了——先确认底座模型自己搜原始记录能到什么水平，再决定要不要为记忆系统付那笔建库钱。它和 MemT-1.0 的分歧也值得摆在一起看：前者认为记忆该内化成模型能力，后者认为记忆是弱模型时代的补丁，模型变强就该拆掉。两篇用的模型和任务并不重合，目前谁也证伪不了谁。

相关链接

• 论文摘要页：https://arxiv.org/abs/2610.29823
• 全文 HTML 版：https://arxiv.org/html/2610.29823
• 交互式结果页：https://zedongpeng.com/memorytax

4. A5：把记忆写成 Markdown 交给 Git，主动性放在 harness 层

事件概述

10 月 23 日，复旦大学 NLP 团队在 Hugging Face 发布 A5 技术预览（10 月 25 日机器之心报道），定位是「越用越懂你」的主动式个人助手。它不碰模型权重，做的是 harness：以 ReAct 循环为核心，用插件和核心服务加上跨会话记忆、工作空间变化感知和后台知识维护，把资料、会话历史和知识维护在一个持久工作空间里。

技术解析

记忆以 Markdown 文件保存，用 Git 管版本，并按适用范围分成 Workspace Memory（当前工作空间的知识、决定与约束）和 User Memory（跨项目适用的个人背景、偏好和习惯）。MEMORY.md 承载相对稳定、跨任务有用的综合认识，在会话开始时进入上下文；详细笔记保存具体事实与适用条件，供 agent 按需读取。分层让开场背景保持精炼，也给后续追查具体判断留下细节。

检索侧用 Memory Prefetch：用户消息到达后，后台先用 BM25 从两类记忆中取候选，再由预取 agent 结合当前对话筛选，补进前台主 agent 的上下文。预取 agent 沿用主会话的系统提示词与对话前缀，以提高前缀缓存利用率。资料侧用 Context 索引——Context 节点对应具体文件或保存的网页，语义节点按主题组织成可逐层浏览的结构，agent 先浏览主题再定位材料、回原文核查。

维护交给空闲时的 Autodream：它会以上次整理的 Git 版本为基线，检查变化的笔记，合并重复信息、修正或移除过时内容，并更新概览。为避免影响正在使用的索引，修改先在独立的候选索引里完成，通过结构和版本校验后再发布。冲突处理有一条挺实在的规则：不同条件下成立的记录可以并存，无法确认的冲突保留背景、标为待确认，等再次用到时向用户求证。长期未进入前台交互的普通记忆会被归档、移出默认检索范围，但用户仍能查找和恢复。在此之上，Proposal Engine 结合已有认识与新证据判断是否提出后续建议，交由用户在 Inbox 里决定。

团队在文末留了一句和前两条直接相关的话：主动性与终身上下文还需要在模型层做针对性训练，模型要学会把过往经验用到新任务上、判断哪些理解值得保留或修订、决定什么时候主动出手，训练与评测也要覆盖跨会话的协作全过程。harness 与模型协同设计，是他们正在走的方向。

行业影响

A5 代表了与前两条相反的取舍：放弃把记忆压进参数，换来看得见、可核查、可回滚。记忆是 Markdown、版本是 Git、冲突标为待确认，用户可以逐条翻。这条路的代价是召回质量受检索器上限约束，好处是出错时能查到是哪一次写入写错的——而精确删除与解释，恰恰是记忆原生路线明确承认需要额外机制补上的短板。它自己也不认为 harness 能走完全程，那句「需要在模型层做针对性训练」，等于把球又踢回了 MemT-1.0 和 Uni-Mem 那一侧。

相关链接

• 发布博客：https://huggingface.co/blog/KYLN24/introducing-a5

---

把四份工作摆在一起看，分歧落在一个很具体的地方：记忆到底是模型要长出来的能力，还是模型够强之后就该卸掉的脚手架。MemT-1.0 押前者，MemoryTax 押后者，Uni-Mem 说可以先让模型学会怎么用，A5 说先做成能查的台账也够用。眼下四者的数据并不能互相比对——数据集、模型、判分口径各不相同，MemoryTax 只有一段对话，MemT-1.0 的领先也限定在参数化方法内部。真正能裁决的，是等一个足够强的底座配上记忆原生通路之后，那条 1.86 倍的推理加速和 66 分之一的存储，还能不能换回比「直接搜原始记录」更高的正确率。