本文首先简单介绍CNN的结构,并不作详细介绍,本文只要讲解CNN的反向传播,CNN的反向传播,其实并不是大多所说的和全连接的BP类似,CNN的全连接部分的BP是与它相同,但是CNN中卷积--池化、池化--卷积部分的BP是不一样的,仔细推导,还是有很多细节地方需要思考的,比如1、在前向传播的过程中,卷积层的输入,是通过卷积核与前一层的输出特征图卷积得来的,那么在反向传播的过程中该怎么处理?这个就与全连接神经网络不同了。2、由于在前向传播的时候,池化层会对前一层卷积层进行放缩,那么从池化层到卷积层BP的时候,小尺度的池化层怎么把误差反传到大尺度的卷积层(这里的大小是一般而言,卷积层一张特征图经池化之后尺度会变小)?这个就与全连接神经网络完全不同!3、公式推导中,或者某些库的函数实现过程中,卷积核为什么要翻转180度?ps.本文是根据汇报的PPT更改,里面有很多图和文字就直接截图了,里面的每一个公式都是我和F.Tao讨论和推导过的,如有错误欢迎指正。
如果你觉得这篇文章看起来稍微还有些吃力,或者想要更系统地学习人工智能,那么推荐你去看床长人工智能教程。非常棒的大神之作,我也被圈粉了。教程不仅通俗易懂,而且很风趣幽默。点击这里可以查看教程。
还是先首先贴一张CNN结构图吧,下面这张图个人认为是结构很清晰的,每一层是什么,以及卷积层+池化层和全连接层在做什么工作都表达的很好,来源Google搜索。
要明白卷积操作是用来干嘛的,是用来提取特征的,反向传播的意义又是什么?因为初始的时候卷积核的值都是随机设定的,我们可以根据前向传播的预测结果,进行误差分析,不断地修改卷积核的值,使得更好的提取特征,就是反向传播的意义。
![](https://i-blog.csdnimg.cn/blog_migrate/1f3ea60cab65703e32771992170e06f9.png)
![](https://i-blog.csdnimg.cn/blog_migrate/6340e0031e063a7165d442b47c95c0e1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/35ffb34e342221257c093c2d5e8442a6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/890c988f726c63b8f1fc0fa3173791e3.png)
![](https://i-blog.csdnimg.cn/blog_migrate/df82d4f192d778fc88274749136ff264.png)
![](https://i-blog.csdnimg.cn/blog_migrate/c9738c124e67876f383ea9ed367a8eda.png)
![](https://i-blog.csdnimg.cn/blog_migrate/4f1596045d659df983625d9c03cff225.png)
![](https://i-blog.csdnimg.cn/blog_migrate/7e868960da119fc819260eb073b58eac.png)
![](https://i-blog.csdnimg.cn/blog_migrate/9bb66429790114eec4b657828d87a28e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/483fbe72a9fd5f9567bb5afd12ea2cc5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/df3a817ff778689cecc075e2e84a121f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/5ff89d51c6b9246911ee94d73a568fc9.png)
![](https://i-blog.csdnimg.cn/blog_migrate/41fbb76831f3d4c6e41a966a7a511ada.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/2a26acb048f2b18422067e8f8e6cf8d1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/dc5eef3ff3bb76b52e35138dd2b0d923.png)
![](https://i-blog.csdnimg.cn/blog_migrate/9e65b5495e0e8f0f8dc03c9adae83811.png)
![](https://i-blog.csdnimg.cn/blog_migrate/2e32638517afd2ad27a006355a093cc9.png)
![](https://i-blog.csdnimg.cn/blog_migrate/415958afbe20189a927da32eed63ff60.png)
![](https://i-blog.csdnimg.cn/blog_migrate/5d84b50376725e30bd9fba2ac29f75da.png)
![](https://i-blog.csdnimg.cn/blog_migrate/86ed66121e69207a9fa36cbd884613f1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e17e1ac1f34cb14313cbeb0bc1094978.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d685e290262809462895646f76801299.png)
![](https://i-blog.csdnimg.cn/blog_migrate/943c6305d6268c2c30b0ee7af0a63c44.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b972805b52fff837df1c09957d9b2e7d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/c922c54aa43f015538080118fdf9a79e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/05b7ae6e896938e89a087bc685e60f48.png)