为什么会有RNN?
从BP算法,CNN(卷积神经网络)中会发现, 它们的输出都是只考虑前一个输入的影响而不考虑其它时刻输入的影响, 比如简单的猫,狗,手写数字等单个物体的识别具有较好的效果. 但是, 对于一些与时间先后有关的, 比如视频的下一时刻的预测,文档前后文内容的预测等
, 这些算法的表现就不尽如人意了.因此, RNN就应运而生了.
RNN
RNN之所以称为循环神经网路,即一个序列当前的输出与前面的输出也有关
。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中,即隐藏层之间的节点不再无连接而是有连接的,并且隐藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输出
。