之前看到有博客讲述 RNN主要是下图这种结构,即Hidden Layer会有连向下一时间Hidden Layer的边,为了方便推导和描述,将左边简化为右边这样一个结构。
(左图的空心圆圈输入可以看做:输入的是每个单词的特征向量; 右图的实心圆圈输入可以看做:输入的是每个单词)
将网络按照时间进行展开为下图:
但还不是特别理解隐藏层之间的连接以及按时间展开的过程,于是找到一个更清楚的解释。
-------------------简单粗暴地上图-----------------------
这个图简化了上面的图,可以明显地看出,其描述的意思是一致的~