Widrow-Hoff Learning Rule (Least Mean Squares Rule) — Widrow-Hoff 学习规则（最小均方规则）

事实

一种按误差平方最小化更新权重的监督学习规则。

人话

它像数学老师批卷：不只画叉，还按差几分把学生一点点掰回来。

用于早期神经网络和滤波，启发梯度下降训练。

相关概念

• 监督学习
• 梯度下降
• 感知机
• 随机梯度下降

Supervised Learning
它依赖标准答案计算误差，再据此更新权重。

Gradient Descent
它本质上沿误差平方的下降方向调整参数。

Perceptron
它推动了早期线性神经元从犯错中学习。

SGD
它的逐样本小步更新，预示了后来的 SGD。