一种通过压小参数来抑制过拟合的正则化方法。
权重衰减像老中医下药：猛药别一把一把抓，剂量收着点，身体才不至于见啥症状都乱反应。
常随训练一起用，帮模型少硬记、多学规律，降低过拟合。
Regularization它是正则化的一种具体做法，用来控制过拟合。
Parameter它直接作用在参数上，倾向把权重压小。
Adam训练时常和 Adam 一起配置，但实现细节会不同。
Lasso两者都限制参数大小，但 Lasso 更偏向压出稀疏性。