Backpropagation — Backpropagation（反向传播）

事实

一种把输出误差逐层传回去更新参数的训练方法。

人话

像师傅带徒弟练刀：不是只说砍歪了，而是从手腕到步子，一路往回纠动作。

它负责告诉网络哪里该改，是训练深度模型的核心步骤。

相关概念

• 神经网络
• 随机梯度下降
• 深度学习
• 参数

Neural-network
它让神经网络把错误逐层往回传，并调整权重。

Sgd
它先算出该往哪改，再由 SGD 按梯度更新参数。

Deep Learning
深度学习能训练很多层网络，离不开反向传播。

Parameter
反向传播的核心作用，就是告诉参数该怎么改。