英文:Coding Benchmark 分类:coding
衡量 LLM 编程能力的标准化评测基准:从函数级(HumanEval)到仓库级(SWE-bench),覆盖代码生成、修复、测试与真实任务,是模型编程能力对比的依据。
代表:HumanEval/MBPP(函数生成)、SWE-bench(真实 issue 修复)、LiveCodeBench(防污染)、Codeforces(竞赛);指标:pass@k(多采样成功率)、解决率;设计要点:防数据污染(新题/动态题)、难度分层;局限:与真实开发(长任务/工具)仍有差距。
用于模型选型(编程能力对比)、研发进步追踪(SOTA)、Agent 能力评测(SWE-bench)与训练数据筛选;编程基准是"AI 写代码能力"的度量衡。
相关词条:Claude Code · Windsurf · Devin · 代码模型 · 缺陷定位