Teacher Forcing — 教师强制

事实

训练序列模型时喂真实上一步输出。

人话

教师强制像老师带读课文：你刚念跑偏，下一句仍把原文怼到眼前。

让序列训练更稳更快，常用于翻译、对话和语音。

相关概念

• 序列到序列模型
• 自回归模型
• Recurrent Neural Network，循环神经网络
• 交叉熵损失

Seq2Seq
教师强制常用于训练解码器，减少早期乱跑。

Autoregressive Model
它用真实上文教逐步生成模型预测下一步。

RNN
它最早常用于 RNN 的序列预测训练。

Cross-Entropy Loss
真实下一步通常直接拿来计算交叉熵。