写在前边的话:学习完台湾大学李宏毅有关机器学习深度学习的视频后,作出一点感想和总结。
一、什么是RNN?
在RNN中,神经元不但可以接受其他神经元的信息,也可以接受自身的信息,形成具有环路的网络结构。并且RNN对于分析序列数据具有很大优势,举个特栗子:比如进行某语言对另一语言的翻译,最后输出的不单单是语句对语句的翻译,更重要的是联系该语句的前后文,使其翻译内容更加精准。
二、一般RNN
如下图所示(图片来源于课本或网络或台湾大学李宏毅教授的课件内容):
其中,x为时刻t的输入,h表示隐藏层状态,则h不仅和当前时刻的输入x有关,也同t-1时刻的h有关。