英文:SWE-bench 分类:coding
评估 AI 解决真实软件工程问题的基准:从 GitHub 真实仓库提取 Issue + 关联 PR,要求模型生成能通过隐藏测试的修复补丁,衡量"AI 程序员"的实际能力。
构成:真实 issue(bug 报告/功能请求)、黄金补丁(人类 PR)、测试验证(FAIL_TO_PASS);指标:解决率(% resolved);版本:SWE-bench Verified(人工过滤子集)、Lite;意义:比函数级基准(HumanEval)更贴近真实开发;榜单:Devin、OpenHands 等竞争。
用于 Agent 能力评测(真实任务)、模型选型(工程能力)、研究进展追踪(解决率 SOTA)与训练数据(issue-PR 对);SWE-bench 是"AI 工程师能力"的度量衡。
相关词条:Claude Code · Windsurf · Devin · 终端智能体 · SWE-agent