在普通神经网络的基础上,在每个隐藏层的神经元之间加上连接
因为隐藏层之间可以传递信息了,因此适合处理序列数据,比如不断变化的数据,一句话等
循环神经网络适用多对多或多对一,如标注句子里每个词的词性或判断句子种类
共享参数
此外,传统网络中,每一层神经元参数不共享,但在RNN中,每一层共享U,V,W三个参数,U是输入部分用到的参数,W为每层神经元之间传递时所需要的参数,V为传递给下一层时用到的的参数
优点:大大减少参数,提高效率
在普通神经网络的基础上,在每个隐藏层的神经元之间加上连接
因为隐藏层之间可以传递信息了,因此适合处理序列数据,比如不断变化的数据,一句话等
循环神经网络适用多对多或多对一,如标注句子里每个词的词性或判断句子种类
此外,传统网络中,每一层神经元参数不共享,但在RNN中,每一层共享U,V,W三个参数,U是输入部分用到的参数,W为每层神经元之间传递时所需要的参数,V为传递给下一层时用到的的参数
优点:大大减少参数,提高效率