返回评测
推理 综合推理 接近饱和 模态 · 文本 任务 · 混合题型

ARC-AGI-2

ARC-AGI 第二版,更难的抽象推理挑战,$600K 大奖赛

François Chollet / Zapier ·

考察能力

抽象推理 流体智力 模式泛化 程序合成

构建信息

数据规模
100 evaluation tasks
评测方式
执行验证
核心指标
Accuracy (pass@3)

资源链接

模型效果排行

🥇 Confluence Lab research stack (unconstrained)
97.9% 2026-04
🥈 GPT-6 Astra (OpenAI, max effort, ARC Prize 验证榜 2026-09-03, $1.12/task)
95.0% 2026-09
🥉 GPT-6.1 Sol (OpenAI, max effort, ARC Prize 验证 2026-09-30, $0.25/task; 仅落后 Astra 0.8pp 而单题成本约为其 1/4.5; 同权重档位阶梯 Max 94.2 / XHigh 91.7 / High 91.7 / Medium 86.7 / Low 76.7)
94.2% 2026-09
4. Claude Opus 5.5 (Anthropic, ARC Prize 验证 2026-09-22)
93.3% 2026-09
5. GPT-5.6 Sol (OpenAI, max reasoning, 2026-07-09 发布)
92.5% 2026-07
6. Gemini 4 Argon (Google, ARC Prize 验证 2026-10-13, high reasoning; 主表 91.3%, 详情页最佳 v2 为 91.2% @ high)
91.3% 2026-10
7. Claude Opus 5 (Anthropic, max effort, ARC Prize 验证, 2026-07-24 发布)
90.4% 2026-07
8. Claude Fable 5.1 (Anthropic, max effort, ARC Prize 验证, $4.49/task)
90.0% 2026-09

为什么重要

ARC-AGI-2 是 ARC-AGI 的升级版,曾是当前最难的 AI 推理基准之一。它测试纯粹的”流体智力”——在不依赖记忆知识的情况下发现和应用新模式。该基准在 14 个月内从 ~2% 飙升到 97.9%(Confluence Lab, 2026-04),已被视为”接近饱和”。ARC-AGI-3(2026-03 发布)接替其位置,所有前沿模型得分再度回归 <5%。

构建方式

  1. 手工设计视觉网格变换任务
  2. 每个任务有 2-3 个示例对(输入→输出)
  3. 需要从示例中归纳规则并应用到新输入
  4. v2 引入更复杂的组合规则

任务示例

给定几个颜色网格的输入-输出对,推断变换规则(如旋转、填充、对称、条件替换等),然后将规则应用到测试输入。

2026-10-10 更新:GPT-6.1 Sol 用 1/4 的单题成本贴上 Astra

ARC Prize 在 2026-09-30 公布了 GPT-6.1 Sol 的验证结果:ARC-AGI-2 半私有集 94.2%(max effort,$0.25/题),是本榜第四款也是目前最后一款越过 90% 的成本受限条目。同批公布的还有 ARC-AGI-1 的 98.5%(xhigh,$0.06/题)与 ARC-AGI-3 的 52.7%(Standard harness,$7.6K)/ 96.4%(Provider Adapter,$4.4K)。

值得记的是性价比而不是名次:Astra 的 95.0% 花 $1.12/题,Sol 的 94.2% 花 $0.25/题——0.8pp 的分数差对应约 4.5 倍的成本差。ARC Prize 自己的表述是 Sol 的成绩”与 Astra 的 95.0% 相当,成本低 77%“(按 $1.12→$0.25 算是 78%,差异来自取整口径)。

Sol 在 ARC-AGI-2 上的推理档位阶梯也是一张有用的图:

档位ARC-AGI-2
Max94.2%
XHigh91.7%
High91.7%
Medium86.7%
Low76.7%

从 Low 到 Max 有 17.5pp 的跨度,但 XHigh 与 High 完全打平——在 ARC-AGI-2 上多付的推理预算在 xhigh 这一段是没有回报的。这与 ARC-AGI-3 上的观察同型:ARC Prize 提到 Sol 在高档位下”更快想明白怎么绕开障碍”,从而用更少的动作完成关卡(463 步 vs 1078 步),推理档位买的是动作效率,不是每档都买得到正确率。

被本轮挤出前八的是 Gemini 3.1 Pro Deep Think(77.1%),它停留在 2026-02 的旧值,属于榜单拥挤导致的名次下移,不是能力下降。

最新进展

  • 2026-09-03:GPT-6 Astra 以 95.0% 登顶 ARC Prize 验证榜(max effort,$1.12/task),是首个在成本受限口径下突破 95% 的模型;同一天 Claude Fable 5.1 报 90.0%(max effort $4.49/task,xhigh $3.12 也能到 90.0%)。Astra 的单题成本只有 Fable 5.1 的四分之一,性价比差距比分数差距更大
  • 2026-09:ARC-AGI-2 的”85% 即算解决”门槛已被五款模型越过(Astra 95.0 / Sol 92.5 / Opus 5 90.4 / Fable 5.1 90.0 / Fable 5 89.2),但严格私有集与 Kaggle 开放赛道仍显著更低——成本受限口径的饱和不代表任务本身被解决
  • 2026-07-24:Claude Opus 5 在 ARC-AGI-2 达 90.4%(ARC Prize Foundation 半私有评测集、max effort 下独立验证为 90.42%),跻身 Top 3,仅次于 Confluence Lab 非受限栈 (97.9%) 与 GPT-5.6 Sol (92.5%);Anthropic 以”性价比”定位逼近受限推理 SOTA
  • 2026-04:GPT-5.5 以 85.0% 首次触及 ARC-AGI-2 大奖赛门槛($700K 奖金),是首个公开报告达到 85% 的模型,运行成本约 $1.87/puzzle(远低于早期 o3 的 $15-77)
  • 2026-04:GPT-5.4 Pro 以 83.3% 紧随其后,OpenAI 占据 Top 2;Gemini 3.1 Pro 77.1%、Claude Opus 4.7 (Adaptive) 75.8% 组成第二梯队
  • 2026-04:BenchLM 排行榜扩展至 11 个模型,Top 4 包含 4 个 reasoning 配置(GPT-5.5/5.4 Pro/Opus 4.7/5.4),Gemini 3.1 Pro 是唯一非 reasoning 但进入 Top 3 的模型
  • 2026-04:Confluence Lab research stack(unconstrained)以 97.9% 大幅领先,但属于非受限(unconstrained)提交,不在大奖赛正式评分范围
  • 2026-05:presenc.ai Frontier Tracker 确认 GPT-5.5 (85.0%) 锁定大奖赛门槛,Claude Opus 4.7 在官方报告中提升至 81.4%(vs BenchLM 75.8%,口径差异)
  • 2026-03-25:ARC-AGI-3 发布,引入交互式评测范式,填补前两代快速饱和留下的空白——所有前沿模型在 ARC-AGI-3 上得分 <5%
  • 关键发现:ARC-AGI-2 在 14 个月内从 ~2% 提升至 85%,提升速度极快,背后存在结构性问题:模型可能从训练数据中学到了任务本身
  • 2026-06:DeepSeek V4 Reasoning 在 ARC-AGI-2 上达 68.5%(presenc.ai 报告),Qwen 3.5 Max Thinking 61.2%,开源模型与闭源顶级模型差距缩小到 15pp 以内
  • 2026-06:ARC Prize Foundation 公布两个里程碑截止日期(6月30日和9月30日),大奖赛决赛即将到来,关注是否有提交以 <$1/puzzle 的成本实现 85%+
  • 关键趋势:ARC-AGI-2 已被 GPT-5.5 突破大奖赛门槛,基准有效性受到挑战;ARC-AGI-3 进一步通过”无规则交互世界”将所有模型打回 <5%,AGI 试金石转向第三代交互式设计
  • 2026-07-09:GPT-5.6 Sol/Terra/Luna 全面 GA——Sol 在 ARC-AGI-2 达 92.5%(max reasoning),Terra 83.9%,Luna 未单独报告 ARC-AGI-2 数据;Sol 的 92.5% 仅次于 Confluence Lab research stack (97.9%),是标准化推理模型中的新 SOTA,较 GPT-5.5 (85.0%) 提升 7.5pp——推理预算扩展带来显著增益
  • 2026-07-01:Claude Fable 5 全球恢复访问,ARC-AGI-2 达 83.0%,与 GPT-5.4 Pro (83.3%) 几乎平齐,表明 Anthropic 旗舰在抽象推理上与 GPT 系列差距缩小到 0.3pp
  • 关键趋势:ARC-AGI-2 Top 3 差距仍大(Confluence 97.9% / Sol 92.5% / GPT-5.5 85.0%),GPT-5.6 Sol 大幅缩短了”受限”与”非受限”之间的差距(从 12.9pp→5.4pp);但 ARC-AGI-2 本质上仍是视觉网格变换,模型饱和不意味通用推理能力达到人类水平——ARC-AGI-3 将所有模型打回 <5% 是最有力的反证

关键发现

  • ARC-AGI-1 已基本宣告解决(Gemini 3.1 Pro 达到 98%)
  • ARC-AGI-2 在一年内从 ~2% 提升至 84.6%,饱和速度极快
  • 两代基准快速饱和背后存在结构性问题:模型可能从训练数据中学到了任务本身
  • 推动第三代交互式设计的诞生——ARC-AGI-3

关联基准

不足与展望

  • 评测集较小(100 题),结果方差大
  • 视觉网格范式不代表所有抽象推理
  • 但作为 AGI 进展的试金石,价值持久

2026-10-31 更新:90%+ 条目扩到六款,Gemini 4 Argon 入场

ARC Prize 官方结果页(2026-10-31 抓取)新增与补录:

模型ARC-AGI-2日期备注
Gemini 4 Argon91.3%2026-10-13high reasoning;详情页最佳 v2 为 91.2%,主表 91.3%,两值并存;v1 98.5%、v3 Provider Adapter 97.5%(low)
Claude Opus 5.593.3%2026-09-22补录进 topResults,此前卡内缺失
Claude Sonnet 5.583.9%2026-09-28xhigh;与 GPT-5.6 Terra 并列,未进前八
DeepSeek V4.1 Flash 101778.1%2026-10-17开源权重新高:上一代 Flash 为 72.9%(+5.2pp)
Muse Spark Open57.5%2026-10-15Meta 开源模型;v1 89.0%
ReflectionBeam 1.023.5%2026-10-16v1 74.0%,v2 上崩塌

判读:

  • 成本侧的新信号:Gemini 4 Argon 以 low reasoning 在 v3 Provider Adapter 上拿到 97.5%,官方注明用的是 $2/$10(每百万 token)的入门价——在 ARC-AGI-3 的 PA lane 上,97%+ 已经不需要旗舰级推理预算。
  • 开源权重在 v2 上的天花板还在 78%:Flash 1017 的 78.1% 是开源新高,但与闭源头部(93-95%)仍差 15pp 以上;同期 GLM-5.3-Flash 65.8%、Kimi K3 60.4%。
  • v1/v2/v3 的分数结构越来越像三条不同的基准:同一款 Argon 在 v1 98.5% / v2 91.3% / v3 PA 97.5%,Muse Spark Open 在 v1 89.0% / v2 57.5% / v3 0.42%——跨版本比较分数前必须先钉住版本号。
  • 竞赛 lane 与实验室 lane 已明显分层:ARC Prize 2026 竞赛(Kaggle)头名 TUFA Labs 88.06%(2026-10-09 公布),第二名 Rabbithole 80.56%——竞赛系统允许专门搜索与脚手架,与实验室模型榜不可直比;本卡 topResults 只收实验室模型。

饱和判定维持「接近饱和」:验证榜前六已有五款 ≥90%(Astra 95.0 / Sol 94.2 / Opus 5.5 93.3 / 5.6 Sol 92.5 / Argon 91.3 / Opus 5 与 Fable 5.1 90.0+),但人类基线 100% 尚未被任何实验室模型越过,竞赛 unconstrained 栈的 97.9% 也仍在 100% 之下。

抽象推理 AGI 竞赛 前沿