为什么重要
AI 评测的默认视角是「一个模型独自能做什么」,但 2026 年的前沿工作越来越发生在团队里:多 Agent 系统在科学、医学、软件工程上做出成果,人也在和各种 Agent 搭班。人类组织心理学研究「团队协作能力」已有几十年,模型侧却几乎没有专门测量——一个能力很强但会在队友施压时放弃正确立场的模型,在团队里的价值可能低于一个能力平庸但行为可靠的模型,而这件事在任何能力榜上都看不见。
这张基准的设计核心是把协作从能力里剥离:每题先跑一遍「独力全信息」,只有独力可解的题才计入协作计分——分数差反映的是协作行为差异,不是会不会做题。这一步是它比「多 Agent 系统跑复杂任务看成功率」类基准(那类分数与能力强耦合)更接近「协作」构念的关键。
构建方式
- 8 个协作维度(对应人类团队研究的经典分类):安全(拒绝不安全捷径)、举报不当行为、信息共享与寻求、情绪智能、让团队保持在正轨、冲突处理、主动补位、接管善后。
- 题源全部真实:航空事故报告、临床病例、编码任务、谈判记录或既有基准条目,每题有程序可验证的结局。
- 三遍跑法:独力(全信息,1 次)→ 无事团队基线(1 次)→ 受扰测试(脚本队友制造问题,3 次)。
- 计分:3 个裁判 LLM 通读全部对话消息,代码检查最终状态;条件计分(只算独力可解的题)。
- 拆分:160 公开(带代码与数据)+ 80 留出。
主表(默认档,240 题 Overall)
| 模型 | Overall | 独力可解 | 公开 | 留出 |
|---|---|---|---|---|
| Gemini 4 Argon | 76.6 ±3.5 | 96.8% | 78.7 | 72.7 |
| GPT-6 Astra | 76.5 ±3.5 | 97.9% | 76.9 | 75.8 |
| GPT-6.1 Sol | 74.5 ±3.5 | 96.8% | 75.9 | 71.7 |
| Claude Opus 5.5 | 71.0 ±4.0 | 95.9% | 70.6 | 72.9 |
| Claude Fable 5.1 | 65.3 ±4.4 | 96.7% | 65.2 | 66.4 |
| Claude Sonnet 5.5 | 65.2 ±3.8 | 92.3% | 64.7 | 66.0 |
| Grok 4.7 | 55.6 ±3.9 | 94.6% | 55.8 | 55.6 |
| Claude Haiku 5.5 | 51.7 ±3.7 | 84.3% | 53.5 | 48.7 |
| Gemini 3.8 Flash | 51.5 ±4.2 | 91.5% | 53.0 | 48.0 |
| Mistral Large 4 | 44.5 ±4.3 | 81.9% | 43.2 | 49.2 |
| GPT-6 Luna | 43.4 ±4.0 | 85.7% | 43.1 | 45.0 |
| Kimi K3.1 Pro(开源最佳) | 59.9 ±4.1 | 88.1% | 59.9 | 60.6 |
| DeepSeek V4.1 Flash | 50.8 ±4.3 | 83.3% | 49.7 | 52.8 |
| Kimi K3 | 45.9 ±3.8 | 86.1% | 44.8 | 48.1 |
| GLM-5.3 | 45.8 ±4.0 | 88.9% | 47.0 | 43.2 |
| DeepSeek V4 Pro | 39.4 ±4.4 | 86.1% | 38.1 | 42.1 |
| Nemotron 3 Ultra | 30.6 ±4.4 | 72.1% | 29.5 | 32.9 |
| gpt-oss-120b | 19.1 ±5.0 | 64.6% | 19.9 | 18.7 |
关键发现
- 没有一个模型是合格的队友:最好的 Argon(high)也只有 82.2/100,且 18 个模型「跨规模、跨家族」全部存在明显的协作短板。
- 能力 ≠ 协作,且有硬数字:通用能力几乎相同的两个模型,队友分最多差 11 分。交叉对照更直白——Opus 5.5 在 AA Intelligence Index(57.6)与 HLE(61.4%)上都是全场最高,队友分 71.0 却低于 Argon 的 76.6(Argon 的 AA 指数只有 52.6);Grok 4.7 的 HLE 仅 43.1% 但冲突维度全场最强。
- 前沿模型拒绝不安全捷径、会举报,但扛不住人际压力:冲突场景中前沿模型达成最优整体协议的比例仅 14%;Opus 5.5 有 90% 的冲突以让步收场,Haiku 5.5 让步 63% 且 16% 的冲突直接谈崩;全场最「能守住立场换到好交易」的反而是 Grok 4.7(最优协议 45.0%)与 Nemotron 3 Ultra(53.2%)这类综合分更低的模型——「好说话」与「会谈判」在同一批模型上呈反向分布。
- 接管善后是最脆的一环:接手一个「弱模型已经造过假」的任务时,前沿模型通过率从 97% 掉到 81%——继承的不当结果经常在换模型之后存活。
- 主动补位的失败大多是「没注意到」而非「不会做」。
- 推理档位的效应分裂:high effort 抬升 6 个受测模型中的 5 个(+2.7 到 +5.7 分),却把开源最佳 K3.1 Pro 拉低 3.7 分——开源权重模型的推理档位调优方向与闭源相反,这是引用「开源已接近闭源」时需要检查的维度。
- 成本-分数 Pareto 有三个截然不同的点:Argon 82.2/$273(天花板)、Sol 78.7/$30(最佳折衷,11% 成本换 91% 分数)、Haiku 5.5 51.7/$2.0(性价比王,每美元得分约为他人 2 倍)。
- 时间序列:最好成绩从 gpt-oss-120b 的 19.1(2025-08)涨到 Argon 的 82.2(2026-10),但 2026-07 Kimi K3 之后的所有新纪录全部来自闭源模型——开源在协作维度上被重新拉开(开源最佳 59.9 vs 闭源最佳 82.2,差 22.3 分,大于多数能力基准上的差距)。
读法与局限
- 分数是行为口径:同一模型在此榜与能力榜(AA 指数、HLE、LMArena)的排序显著错位,这正说明它测到了新东西;但反过来,不能把 82.2 读成「Argon 综合能力 82.2」。
- 裁判是 LLM:3 裁判通读消息的方案经人类标注员校验(论文附录给出一致性),但裁判模型自身的偏见(如偏好冗长道歉、惩罚强硬措辞)无法完全排除;换裁判家族的稳健性检验写在附录 C。
- 脚本队友的生态位:受控变量换来的是「队友行为分布窄」——真实人类队友的不合理方式远比一个剧本丰富,「冲突处理」维度尤其可能低估真实难度。
- 240 题的粒度:±3.5 到 ±5.0 的置信区间意味着头部 2 分以内的差距(如 Argon vs Astra 默认档 76.6 vs 76.5)不具结论性。
- 160 公开 + 80 留出:公开集已带代码与数据,但用公开集调优出的「协作分」与留出分之间已可见 4–6 分落差(Argon 78.7→72.7),引用公开集成绩需注明。
关联基准
- Agents Are Systems, Not Models:从方差分解角度挑战单次 pass@1,本卡从行为维度角度做同类挑战
- MAC-Bench(arXiv:2611.01728):多智能体协作的任务依赖结构视角(测 MAS 整体),本卡测单个成员的协作行为,暂无独立卡片
- GAIA2:异步长程通用 Agent 能力,与本卡的「团队场景」互补