什么是RNN模型
- RNN(Recurrent Neural Network), 中文称作循环神经网络,一般以序列数据作为输入,通过网络内部结构获取序列之间的关系特性,一般也是以序列形式输出
RNN结构
RNN单层网络结构:输入层 隐藏层 输出层
以时间步对RNN单层网络结构展开(x代表输入 o代表输出 s代表隐层)
从上图可知在t时间步隐层st的值是时间步t的输入xt和t-1时间步的输出共同决定的
计算公式为:
st=Uxt+Wst-1
同理st-1,st+1
RNN模型分类
按照RNN的内部构造进行分类:
传统RNN,LSTM,Bi-LSTM,GRU,Bi-GRU