返回评测
Agent Agent-Web 未饱和 模态 · 截图 任务 · 执行验证 ICLR 2024

WebArena

在真实网站(Reddit、GitLab、购物等)的沙箱副本中,评估 Agent 完成网页任务的能力

CMU ·

考察能力

网页导航 表单填写 信息检索 多步规划 视觉理解

构建信息

数据规模
812 tasks (WebArena) + 910 tasks (VisualWebArena)
构建方式
专家手工设计任务模板
评测方式
功能正确性(URL/内容匹配)
核心指标
Task Success Rate (%)

模型效果排行

🥇 Qwen-UI-Agent (27B, 开源权重, 阿里通义 MAI, 技术报告自报 arXiv:2607.28227)
73.6% 2026-07
🥈 Claude Mythos Preview
68.7% 2026-05
🥉 GPT-5.4 Pro
65.8% 2026-05
4. Claude Opus 4.6
64.5% 2026-05
5. GPT-5.4
62.3% 2026-05
6. Claude Opus 4.7
60.2% 2026-06
7. Claude Sonnet 4.6
59.2% 2026-05
8. Gemini 3.1 Pro
58.4% 2026-05

为什么重要

WebArena 是最被广泛采用的 Web Agent 评测——在真实网站的沙箱环境中执行购物、GitHub 操作、Reddit 浏览等任务。是评测”AI 能不能帮你操作网页”的标准基准。

构建方式

  1. 部署 4 个真实网站的本地沙箱:购物网站、GitLab、Reddit、地图
  2. 812 个端到端任务,每个都有明确的成功判定条件
  3. 模型可以用 DOM 或截图作为输入,输出是页面操作序列
  4. 自动化验证:检查页面最终状态是否满足任务要求

任务示例

购物:“搜索价格低于 $30 的无线鼠标,选择评分最高的,加入购物车” GitLab:“创建一个新的 issue,标题为 X,描述为 Y,分配给用户 Z” Reddit:“在 r/programming 发一个帖子,标题中包含 ‘Python‘“

最新进展

  • 2026-05:BenchLM 更新 WebArena 排行榜至 15 个模型,Claude Mythos Preview 以 68.7% 领先
  • 2026-05:GPT-5.4 Pro 达 65.8%,Claude Opus 4.6 达 64.5%,Top 3 差距仅 4.2%
  • 2026-05:Gemini 3.1 Pro 以 58.4% 进入 Top 6,Qwen3.6 Plus 以 57.2% 紧随其后
  • 2026-06:Claude Opus 4.7 在 WebArena 上达 60.2%,较 Opus 4.6 (64.5%) 有所下降,可能与评测配置差异有关
  • 关键趋势:WebArena SOTA 仍远低于人类基线 78%,框架/Agent 编排的影响仍然巨大;WildClawBench 等新一代原生运行时基准正在提供互补的 Agent 评测视角

关键发现

  • Claude Mythos Preview 在 WebArena 上达到 68.7%,但仍低于人类基线 78%
  • GPT-5.4 Pro 达到 65.8%,Claude Opus 4.6 达到 64.5%,Top 模型差距缩小
  • Gemini 3.1 Pro 和 Qwen3.6 Plus 分别以 58.4% 和 57.2% 进入 Top 8
  • 多步任务(5+ 步)的完成率远低于短任务
  • DOM 输入比纯截图输入好 ~10%(结构化信息更易处理)
  • 人类约 78%,与前沿模型差距约 20%

关联基准

不足与展望

  • 沙箱网站与真实网站有差距(简化了认证、验证码等)
  • 没有测试动态页面(AJAX 加载、SPA 路由)
  • 安全风险:Agent 操作网页可能导致误操作——WebArena 未评测安全性

2026-10-31 更新:开源 27B 首次登顶,WebArena-Verified 分流官方口径

  • Qwen-UI-Agent(阿里通义 MAI,27B 开源权重,arXiv:2607.28227,2026-07 发布)以 73.6% 成为原版 WebArena 上首个越过 70% 的条目,超过此前头名 Claude Mythos Preview(68.7%)4.9pp。注意这是技术报告自报 lane,与本卡其余条目(聚合站收录的厂商值)同性质,均为非官方复现。同一报告里 OSWorld-Verified 79.5%、MobileWorld 82.1%、ScreenSpot-Pro 81.5%。
  • 人类基线 78% 首次被逼近但未越过:73.6% 与 78.24% 还差 4.6pp——「开源权重逼近人类」与本卡 2023 年 GPT-4 的 14.41% 相比是 5 倍跨度。
  • 被挤出前八的 Qwen3.6 Plus(57.2%,2026-05)转入正文。
  • 口径分流提醒:原版 WebArena 的评分器(子串匹配、检查器脆弱)已被 ServiceNow/Mila 的 WebArena-Verified 重校准(假阴性 −11.3pp),2026 年主要厂商(Kimi K3 71.6%、Opus 4.8 71.2%、GPT-5.6 Sol 69.7%)已转向 Verified 版报分。两条榜的分数量级接近但不可直比,引用时须钉住是哪一版——详见 WebArena-Verified 卡。
  • 饱和判定维持「未饱和」:头名 73.6% 仍低于人类 78%,且 Verified 版头名 71.6% 同样未越线。
Agent 网页浏览 交互式 GUI 真实环境