简单理解RNN循环神经网络
RNN(Recurrent Neural Network)介绍
介绍: RNN,也就是循环神经网络,是用来建模序列化数据的一种主流的深度学习模型。传统的前馈神经网络处理的输入往往都是一个定长向量,较难应对变长的序列信息,就算把序列处理成定长的向量,模型也很难捕捉序列中的长距离依赖关系。而RNN中的每个神经元能够运用其内部变量保存之前输入的序列信息,将所有神经元串行就可以处理序列化数据。
应用领域: 机器翻译、聊天机器人、序列标注、图像描述和推荐系统。
图说RNN宏观结构
(左边是折叠后的RNN结构,右边是展开后的RNN结构。两种结构相同)
其实RNN处理数据很简单,其大致可概括为两步走的形式:
RNN两步走:
Step One:
数据 x x x输入激活,输出结果保存到小黑盒 “■” W W W中。
Step Two
数据 x