模型在生成时复现训练样本的现象。
模型记忆化像背作文背过头：老师起个头，它连同桌错别字都照念。
它会牵出隐私、版权风险，也会污染评测。
Data-privacy模型记忆可能让训练数据中的隐私被复现。
Differential Privacy差分隐私通过加噪训练，降低记忆风险。
Overparameterization过度参数化会增加模型死记样本的空间。
Benchmark Contamination记住评测题会让模型分数看起来虚高。