循环神经网络

戳

1. 循环神经网络神经元的输出在下一个时间戳直接作用到自身，理论上神经元的输出可以受前面任意多个时刻输入的影响。而在前馈神经⽹络中，信息总是向前传播，从不反向回馈。

2. 理论上循环神经网络可以处理任意长度的输入。

3. 循环神经网络拥有记忆功能（中间状态也被保存下来），解决了无法对时间序列上的变化进行建模问题，利用历史的信息，可以一起用于预测输出序列，解决一些重要复杂的问题。

4. 循环神经网络是一个在时间上传递的神经网络，随着时间深度的加长，也会出现“梯度消失”或“梯度爆炸”现象，即RNN 会丧失学习到连接很远的信息的能力。