ConceptAI › Deep Learning › Sequence Models › RNN
RNN
Recurrent Neural Network
循环神经网络
一句话理解
RNN 通过不断更新隐藏状态，按顺序把过去的信息传递到当前时间步。
最好理解的例子
像边读一句话边更新一张简短便签：读到下一个词时，只携带当前便签继续理解。
核心机制
- 1
按顺序读取当前时间步输入与上一步隐藏状态。
- 2
通过共享的循环单元更新隐藏状态。
- 3
将新状态传给下一步，并用于当前或最终输出。
为什么重要
RNN 奠定了早期神经序列建模基础，在流式输入、小型时序任务和资源受限场景中仍有价值。
关键关系
强关联
快速对比
RNN 的计算天然依赖前一步；Transformer 通过 Attention 更直接地建立远距离关系。
常见误解
RNN 并非完全不能学习长期依赖，只是普通 RNN 更容易遇到梯度和记忆衰减问题。
知识邻域
AI → Deep Learning → Sequence Models