AI Rookies

HumanEval — 代码生成评测基准

事实

用编程题和单元测试评估代码生成的基准。

人话

它像程序员试岗当天:简历吹得再响,单测一跑,代码立刻见真章。

常比模型写代码,通过率易被公开题污染。

相关概念

Software Engineering Benchmark
HumanEval 是早期代码能力评测的代表基准。

Codex
它随 Codex 论文走红,用来检验代码生成。

Benchmark Contamination
题目公开后,训练数据混入会抬高分数。

Leaderboard
它的通过率常被拿来给代码模型排榜。