RNN — Recurrent Neural Network，循环神经网络

事实

一种用循环连接处理序列数据的神经网络。

人话

RNN是追连续剧的爸妈：每天雷打不动，点开下一集前，还记得上一集谁欠谁钱。

它用于语音、文本、时间序列；长程任务常被新模型接班。

相关概念

• 序列建模
• 时间反向传播（Backpropagation Through Time）
• 长短期记忆网络
• Transformer 架构

Sequence Modeling
RNN 是早期处理序列数据的核心模型之一。

BPTT
BPTT 把 RNN 按时间展开，再做反向传播。

LSTM
LSTM 在 RNN 上加门控，缓解长程遗忘。

Transformer
Transformer 后来在许多序列任务中取代 RNN。