系列文章目录
参考闭站视频
一 、 RNN介绍
1. RNN与全连接网络的区别
RNN比全连接神经网络多了参数h0,因此RNN的神经元公式会比全连接神经网络的神经元多一项(f为激励函数)
训练过程与全连接神经网络并无区别:梯度下降原则
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210609174145885.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ByYWd1ZTY2OTU=,size_16,color_FFFFFF,t_70)
输入是可以多个且有序的,它可以模拟人类阅读的顺序去读取文本或者别的序列化数据,且通过隐藏层神经元的编码,上一个隐藏层神经元的信息可以传递到下一个隐藏层神经元,因而形成一定的记忆能力,能够更好地理解序列化数据。
2. 单输入多输出的RNN结构
这种结构通常应用于输入一个图像,输出描述该图像的文本