用编程题和单元测试评估代码生成的基准。
它像程序员试岗当天:简历吹得再响,单测一跑,代码立刻见真章。
常比模型写代码,通过率易被公开题污染。
Software Engineering BenchmarkHumanEval 是早期代码能力评测的代表基准。
Codex它随 Codex 论文走红,用来检验代码生成。
Benchmark Contamination题目公开后,训练数据混入会抬高分数。
Leaderboard它的通过率常被拿来给代码模型排榜。