🌼 希望是附丽于存在的,有存在,便有希望,有希望,便是光明。 ——鲁迅
1.普通循环神经网络
循环神经网络(Recurrent Neural Networks)简称RNN,是一种能够处理时间序列数据的神经网络模型,可以自然的拟合时间和数据之间的关系。循环神经网络作为一种早期深度学习算法中的一种,在各领域有广泛的应用范围,如预测,语音识别等。
相比于传统的前馈性神经网络,循环神经网络的最大的特点是增加了“记忆”的优势,通过信号的双向传播和隐藏层的循环结构,循环神经网络能够综合预测前的多个信息,分析输入信号前后的相关性,能有效提高时间序列方向预测的准确性。
却有一定的缺陷:
但是循环神经网络可能在训练的过程中出现指数的衰减或增长,损失函数经常遇见梯度消失或梯度爆炸的问题。对于这种传统的循环神经网络,随着训练数据集量的增大或数据前后时间间隔过大,那么新输入神经网络的数据会答题前期训练确定的隐藏层数目,有效的信息就会被“忘记”。