返回评测
Agent Agent-多智能体 未饱和 模态 · 文本 任务 · 混合题型

Collaborative Intelligence Benchmark

Stanford Zou Group 把「团队合作」从单模型能力里剥出来单独测:240 个真实记录改编任务 × 8 个协作维度(拒绝不安全捷径、举报、信息共享、情绪智能、纠偏、冲突、主动补位、接管善后),只在模型独力可解的题上计分;18 个模型全员存在明显队友短板,最好的 Gemini 4 Argon(high)也只有 82.2/100,通用能力与队友能力最多差 11 分

Stanford University(Zou Group) ·

考察能力

团队协作 拒绝不安全捷径 举报不当行为 信息共享与寻求 情绪智能 冲突处理 主动补位 接管善后

构建信息

数据规模
240 任务(160 公开 + 80 留出)× 8 个协作维度;评测 18 个闭源/开源模型(13 个为 2026 年 9–10 月发布)
构建方式
每题改编自真实记录或既有基准——航空事故报告、临床病例、编码任务、谈判;配一名按剧本行事的队友,由该队友在受试者中途制造问题
评测方式
每题跑三种方式:独力(全信息)1 次、无事团队基线 1 次、队友制造问题 3 次;3 个裁判 LLM 通读全部消息 + 代码检查最终状态;只在「独力可解」的题上计分,以剥离个体能力差异
核心指标
Overall 得分(0–100,附公开/留出拆分)。⚠️ 这是协作行为口径而非能力口径,与通用能力指数不可互换

模型效果排行

🥇 Gemini 4 Argon (Google, high effort; 默认档 76.6, high 档 82.2; high 档成本 3.3×, 全套 240 题约 $273; 公开 78.7 / 留出 72.7)
82.2 2026-11
🥈 GPT-6 Astra (OpenAI, high effort; 默认档 76.5, high 档 79.4; 独力可解率 97.9% 全场最高)
79.4 2026-11
🥉 GPT-6.1 Sol (OpenAI, high effort; 默认档 74.5, high 档 78.7; 全套仅约 $30, 以 11% 的成本拿到头名 91% 的分数, 成本-分数 Pareto 最佳折衷)
78.7 2026-11
4. Claude Opus 5.5 (Anthropic, high effort; 默认档 71.0, high 档 76.8)
76.8 2026-11
5. Claude Sonnet 5.5 (Anthropic, high effort; 默认档 65.2, high 档 67.9)
67.9 2026-11
6. Kimi K3.1 Pro (Moonshot AI, 开源权重第一; 默认档 59.9, 公开 59.9 / 留出 60.6; ⚠️ 18 个模型里唯一被 high effort 拉低的, −3.7 至 56.1)
59.9 2026-11
7. Claude Haiku 5.5 (Anthropic, 默认档; 全套仅 $2.0, 约为头名成本的 1/136, 每美元得分约为其他任何模型的 2 倍——「性价比队友」)
51.7 2026-11
8. gpt-oss-120b (OpenAI, 开源, 18 模型垫底; 独力可解率也只有 64.6%, 是唯一连独力都过不了四分之三的条目)
19.1 2026-11

为什么重要

AI 评测的默认视角是「一个模型独自能做什么」,但 2026 年的前沿工作越来越发生在团队里:多 Agent 系统在科学、医学、软件工程上做出成果,人也在和各种 Agent 搭班。人类组织心理学研究「团队协作能力」已有几十年,模型侧却几乎没有专门测量——一个能力很强但会在队友施压时放弃正确立场的模型,在团队里的价值可能低于一个能力平庸但行为可靠的模型,而这件事在任何能力榜上都看不见。

这张基准的设计核心是把协作从能力里剥离:每题先跑一遍「独力全信息」,只有独力可解的题才计入协作计分——分数差反映的是协作行为差异,不是会不会做题。这一步是它比「多 Agent 系统跑复杂任务看成功率」类基准(那类分数与能力强耦合)更接近「协作」构念的关键。

构建方式

  1. 8 个协作维度(对应人类团队研究的经典分类):安全(拒绝不安全捷径)、举报不当行为、信息共享与寻求、情绪智能、让团队保持在正轨、冲突处理、主动补位、接管善后。
  2. 题源全部真实:航空事故报告、临床病例、编码任务、谈判记录或既有基准条目,每题有程序可验证的结局。
  3. 三遍跑法:独力(全信息,1 次)→ 无事团队基线(1 次)→ 受扰测试(脚本队友制造问题,3 次)。
  4. 计分:3 个裁判 LLM 通读全部对话消息,代码检查最终状态;条件计分(只算独力可解的题)。
  5. 拆分:160 公开(带代码与数据)+ 80 留出。

主表(默认档,240 题 Overall)

模型Overall独力可解公开留出
Gemini 4 Argon76.6 ±3.596.8%78.772.7
GPT-6 Astra76.5 ±3.597.9%76.975.8
GPT-6.1 Sol74.5 ±3.596.8%75.971.7
Claude Opus 5.571.0 ±4.095.9%70.672.9
Claude Fable 5.165.3 ±4.496.7%65.266.4
Claude Sonnet 5.565.2 ±3.892.3%64.766.0
Grok 4.755.6 ±3.994.6%55.855.6
Claude Haiku 5.551.7 ±3.784.3%53.548.7
Gemini 3.8 Flash51.5 ±4.291.5%53.048.0
Mistral Large 444.5 ±4.381.9%43.249.2
GPT-6 Luna43.4 ±4.085.7%43.145.0
Kimi K3.1 Pro(开源最佳)59.9 ±4.188.1%59.960.6
DeepSeek V4.1 Flash50.8 ±4.383.3%49.752.8
Kimi K345.9 ±3.886.1%44.848.1
GLM-5.345.8 ±4.088.9%47.043.2
DeepSeek V4 Pro39.4 ±4.486.1%38.142.1
Nemotron 3 Ultra30.6 ±4.472.1%29.532.9
gpt-oss-120b19.1 ±5.064.6%19.918.7

关键发现

  • 没有一个模型是合格的队友:最好的 Argon(high)也只有 82.2/100,且 18 个模型「跨规模、跨家族」全部存在明显的协作短板。
  • 能力 ≠ 协作,且有硬数字:通用能力几乎相同的两个模型,队友分最多差 11 分。交叉对照更直白——Opus 5.5 在 AA Intelligence Index(57.6)与 HLE(61.4%)上都是全场最高,队友分 71.0 却低于 Argon 的 76.6(Argon 的 AA 指数只有 52.6);Grok 4.7 的 HLE 仅 43.1% 但冲突维度全场最强。
  • 前沿模型拒绝不安全捷径、会举报,但扛不住人际压力:冲突场景中前沿模型达成最优整体协议的比例仅 14%;Opus 5.5 有 90% 的冲突以让步收场,Haiku 5.5 让步 63% 且 16% 的冲突直接谈崩;全场最「能守住立场换到好交易」的反而是 Grok 4.7(最优协议 45.0%)与 Nemotron 3 Ultra(53.2%)这类综合分更低的模型——「好说话」与「会谈判」在同一批模型上呈反向分布。
  • 接管善后是最脆的一环:接手一个「弱模型已经造过假」的任务时,前沿模型通过率从 97% 掉到 81%——继承的不当结果经常在换模型之后存活。
  • 主动补位的失败大多是「没注意到」而非「不会做」。
  • 推理档位的效应分裂:high effort 抬升 6 个受测模型中的 5 个(+2.7 到 +5.7 分),却把开源最佳 K3.1 Pro 拉低 3.7 分——开源权重模型的推理档位调优方向与闭源相反,这是引用「开源已接近闭源」时需要检查的维度。
  • 成本-分数 Pareto 有三个截然不同的点:Argon 82.2/$273(天花板)、Sol 78.7/$30(最佳折衷,11% 成本换 91% 分数)、Haiku 5.5 51.7/$2.0(性价比王,每美元得分约为他人 2 倍)。
  • 时间序列:最好成绩从 gpt-oss-120b 的 19.1(2025-08)涨到 Argon 的 82.2(2026-10),但 2026-07 Kimi K3 之后的所有新纪录全部来自闭源模型——开源在协作维度上被重新拉开(开源最佳 59.9 vs 闭源最佳 82.2,差 22.3 分,大于多数能力基准上的差距)。

读法与局限

  • 分数是行为口径:同一模型在此榜与能力榜(AA 指数、HLE、LMArena)的排序显著错位,这正说明它测到了新东西;但反过来,不能把 82.2 读成「Argon 综合能力 82.2」。
  • 裁判是 LLM:3 裁判通读消息的方案经人类标注员校验(论文附录给出一致性),但裁判模型自身的偏见(如偏好冗长道歉、惩罚强硬措辞)无法完全排除;换裁判家族的稳健性检验写在附录 C。
  • 脚本队友的生态位:受控变量换来的是「队友行为分布窄」——真实人类队友的不合理方式远比一个剧本丰富,「冲突处理」维度尤其可能低估真实难度。
  • 240 题的粒度:±3.5 到 ±5.0 的置信区间意味着头部 2 分以内的差距(如 Argon vs Astra 默认档 76.6 vs 76.5)不具结论性。
  • 160 公开 + 80 留出:公开集已带代码与数据,但用公开集调优出的「协作分」与留出分之间已可见 4–6 分落差(Argon 78.7→72.7),引用公开集成绩需注明。

关联基准

  • Agents Are Systems, Not Models:从方差分解角度挑战单次 pass@1,本卡从行为维度角度做同类挑战
  • MAC-Bench(arXiv:2611.01728):多智能体协作的任务依赖结构视角(测 MAS 整体),本卡测单个成员的协作行为,暂无独立卡片
  • GAIA2:异步长程通用 Agent 能力,与本卡的「团队场景」互补
团队合作 多智能体 人机协作 协作行为 Stanford 行为评测 真实记录改编 留出集