卷积神经网络(CNN)模型结构
在前面我们讲述了DNN的模型与前向反向传播算法。而在DNN大类中,卷积神经网络(Convolutional Neural Networks,以下简称CNN)是最为成功的DNN特例之一。CNN广泛的应用于图像识别,当然现在也应用于NLP等其他领域,本文我们就对CNN的模型结构做一个总结。
在学习CNN前,推荐大家先学习DNN的知识。如果不熟悉DNN而去直接学习CNN,难度会比较的大。这是我写的DNN的教程:
1. CNN的基本结构
首先我们来看看CNN的基本结构。一个常见的CNN例子如下图:
图中是一个图形识别的CNN模型。可以看出最左边的船的图像就是我们的输入层,计算机理解为输入若干个矩阵,这点和DNN基本相同。
接着是卷积层(Convolution Layer),这个是CNN特有的,我们后面专门来讲。卷积层的激活函数使用的是ReLU。我们在DNN中介绍过ReLU的激活函数,它其实很简单,就是ReLU(x)=max(0,x)。在卷积层后面是池化层(Pooling layer),这个也是CNN特有的,我们后面也会专门来讲。需要注意的是,池化层没有激活函数。
卷积层+池化层的组合可以在隐藏层出现很多次,上图中出现两次。而实际上这个次数是根据模型的需要而来的。当然我们也可以灵活使用使用卷积层+卷积层,或者卷积层+卷积层+池化层的组合,这些在构建模型的时候没有限制。但是最常见的CNN都是若干卷积层+池化层的组合,如上图中的CNN结构。
在若干卷积层+池化层后面是全连接层(Fully Connected Layer, 简称FC),全连接层其实就是我们前面讲的DNN结构,只是输出层使用了Softmax激活函数来做图像识别的分类,这点我们在DNN中也有讲述。
从上面CNN的模型描述可以看出,CNN相对于DNN,比较特殊的是卷积层和池化层,如果我们熟悉DNN,只要把卷积层和池化层的原理搞清楚了,那么搞清楚CNN就容易很多了。
2. 初识卷积
首先,我们去学习卷积层的模型原理,在学习卷积层的模型原理前,我们需要了解什么是卷积,以及CNN中的卷积是什么样子的。
大家学习数学时都有学过卷积的知识,微积分中卷积的表达式为:
![](https://i-blog.csdnimg.cn/blog_migrate/2380cef1f1e8f0cf39a7e9e590d2249a.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b776830fabfc89e16b63bae766285291.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/6173436b7e87908459ed860d360243dd.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d38413f7fd87bbe7ba04704df4d8e926.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b776830fabfc89e16b63bae766285291.png)
![](https://i-blog.csdnimg.cn/blog_migrate/ba79dafbdbda0a4041ac51b8d9bcd3c1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/47e32737457686f7e03cae78bb755d99.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/387798fc88ef5d061b3c9179ba47a982.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/47e32737457686f7e03cae78bb755d99.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/52147cf4da1f1c6e5a0a0bd1d32e3545.png)
![](https://i-blog.csdnimg.cn/blog_migrate/47e32737457686f7e03cae78bb755d99.png)
离散形式是:
![](https://i-blog.csdnimg.cn/blog_migrate/7dfd52e87bb1e3537ce3c67616d8ea6f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b776830fabfc89e16b63bae766285291.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/79ac2e94c5bb76c9f453c1bbb28f6525.png)
![](https://i-blog.csdnimg.cn/blog_migrate/194bf6346b926f6eb3438f3352762ddb.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d38413f7fd87bbe7ba04704df4d8e926.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b776830fabfc89e16b63bae766285291.png)
![](https://i-blog.csdnimg.cn/blog_migrate/ba79dafbdbda0a4041ac51b8d9bcd3c1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/47e32737457686f7e03cae78bb755d99.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/387798fc88ef5d061b3c9179ba47a982.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/47e32737457686f7e03cae78bb755d99.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
这个式子如果用矩阵表示可以为:
![](https://i-blog.csdnimg.cn/blog_migrate/7dfd52e87bb1e3537ce3c67616d8ea6f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b776830fabfc89e16b63bae766285291.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d54245323ffb77a671884fbc17167fb5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0b2a21dffb5172c68b6d6f7ea669a903.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b776830fabfc89e16b63bae766285291.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
其中星号表示卷积。
如果是二维的卷积,则表示式为:
![](https://i-blog.csdnimg.cn/blog_migrate/7dfd52e87bb1e3537ce3c67616d8ea6f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d54245323ffb77a671884fbc17167fb5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0b2a21dffb5172c68b6d6f7ea669a903.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/79ac2e94c5bb76c9f453c1bbb28f6525.png)
![](https://i-blog.csdnimg.cn/blog_migrate/3fd0b50ef64f12d0e33ae82286cbd3cd.png)
![](https://i-blog.csdnimg.cn/blog_migrate/79ac2e94c5bb76c9f453c1bbb28f6525.png)
![](https://i-blog.csdnimg.cn/blog_migrate/5bdabbc8bdabea97815c47fb8a9af3de.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d38413f7fd87bbe7ba04704df4d8e926.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/ba79dafbdbda0a4041ac51b8d9bcd3c1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/1d37016fabe46d8a3c2c9cf7d727d89c.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/ba79dafbdbda0a4041ac51b8d9bcd3c1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/453977cc0a12a9a67066196aafbf1218.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/387798fc88ef5d061b3c9179ba47a982.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/1d37016fabe46d8a3c2c9cf7d727d89c.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/453977cc0a12a9a67066196aafbf1218.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
在CNN中,虽然我们也是说卷积,但是我们的卷积公式和严格意义数学中的定义稍有不同,比如对于二维的卷积,定义为:
![](https://i-blog.csdnimg.cn/blog_migrate/7dfd52e87bb1e3537ce3c67616d8ea6f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d54245323ffb77a671884fbc17167fb5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0b2a21dffb5172c68b6d6f7ea669a903.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/79ac2e94c5bb76c9f453c1bbb28f6525.png)
![](https://i-blog.csdnimg.cn/blog_migrate/3fd0b50ef64f12d0e33ae82286cbd3cd.png)
![](https://i-blog.csdnimg.cn/blog_migrate/79ac2e94c5bb76c9f453c1bbb28f6525.png)
![](https://i-blog.csdnimg.cn/blog_migrate/5bdabbc8bdabea97815c47fb8a9af3de.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d38413f7fd87bbe7ba04704df4d8e926.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b9e125e6864edc953f59d857a4352149.png)
![](https://i-blog.csdnimg.cn/blog_migrate/1d37016fabe46d8a3c2c9cf7d727d89c.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b9e125e6864edc953f59d857a4352149.png)
![](https://i-blog.csdnimg.cn/blog_migrate/453977cc0a12a9a67066196aafbf1218.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/387798fc88ef5d061b3c9179ba47a982.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/1d37016fabe46d8a3c2c9cf7d727d89c.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/453977cc0a12a9a67066196aafbf1218.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
这个式子虽然从数学上讲不是严格意义上的卷积,但是大牛们都这么叫了,那么我们也跟着这么叫了。后面讲的CNN的卷积都是指的上面的最后一个式子。
其中,我们叫W为我们的卷积核,而X则为我们的输入。如果X是一个二维输入的矩阵,而W也是一个二维的矩阵。但是如果X是多维张量,那么W也是一个多维的张量。
3. CNN中的卷积层
有了卷积的基本知识,我们现在来看看CNN中的卷积,假如是对图像卷积,回想我们的上一节的卷积公式,其实就是对输出的图像的不同局部的矩阵和卷积核矩阵各个位置的元素相乘,然后相加得到。
举个例子如下,图中的输入是一个二维的3x4的矩阵,而卷积核是一个2x2的矩阵。这里我们假设卷积是一次移动一个像素来卷积的,那么首先我们对输入的左上角2x2局部和卷积核卷积,即各个位置的元素相乘再相加,得到的输出矩阵S的S00的元素,值为
aw+bx+ey+fz。接着我们将输入的局部向右平移一个像素,现在是(b,c,f,g)四个元素构成的矩阵和卷积核来卷积,这样我们得到了输出矩阵S的
S01的元素,同样的方法,我们可以得到输出矩阵S的
,
,
,
S02,S10,S11,S12的元素。
最终我们得到卷积输出的矩阵为一个2x3的矩阵S。
再举一个动态的卷积过程的例子如下:
我们有下面这个绿色的5x5输入矩阵,卷积核是一个下面这个黄色的3x3的矩阵。卷积的步幅是一个像素。则卷积的过程如下面的动图。卷积的结果是一个3x3的矩阵。
上面举的例子都是二维的输入,卷积的过程比较简单,那么如果输入是多维的呢?比如在前面一组卷积层+池化层的输出是3个矩阵,这3个矩阵作为输入呢,那么我们怎么去卷积呢?又比如输入的是对应RGB的彩色图像,即是三个分布对应R,G和B的矩阵呢?
在斯坦福大学的cs231n的课程上,有一个动态的例子,链接在这。建议大家对照着例子中的动图看下面的讲解。
![](https://i-blog.csdnimg.cn/blog_migrate/7dfd52e87bb1e3537ce3c67616d8ea6f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d54245323ffb77a671884fbc17167fb5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0b2a21dffb5172c68b6d6f7ea669a903.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b9e125e6864edc953f59d857a4352149.png)
![](https://i-blog.csdnimg.cn/blog_migrate/2ab1eee1078a85b790bf7bea4ea81194.png)
![](https://i-blog.csdnimg.cn/blog_migrate/464598db0365d76be860bad913d2f7b4.png)
![](https://i-blog.csdnimg.cn/blog_migrate/79ac2e94c5bb76c9f453c1bbb28f6525.png)
![](https://i-blog.csdnimg.cn/blog_migrate/084f6e5033eb093ec45cd7e5490ff567.png)
![](https://i-blog.csdnimg.cn/blog_migrate/52c51b52eb9e9fa71def088b77049b3f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/3ed153a40330e5d9a68707683b8c7c58.png)
![](https://i-blog.csdnimg.cn/blog_migrate/5bdabbc8bdabea97815c47fb8a9af3de.png)
![](https://i-blog.csdnimg.cn/blog_migrate/2e796063dc8081a089b6877e301f4be9.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b35dd14c35b0f7e00c222f118a846243.png)
![](https://i-blog.csdnimg.cn/blog_migrate/5bdabbc8bdabea97815c47fb8a9af3de.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d54245323ffb77a671884fbc17167fb5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/084f6e5033eb093ec45cd7e5490ff567.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0b2a21dffb5172c68b6d6f7ea669a903.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/084f6e5033eb093ec45cd7e5490ff567.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b9e125e6864edc953f59d857a4352149.png)
![](https://i-blog.csdnimg.cn/blog_migrate/2ab1eee1078a85b790bf7bea4ea81194.png)
![](https://i-blog.csdnimg.cn/blog_migrate/453977cc0a12a9a67066196aafbf1218.png)
![](https://i-blog.csdnimg.cn/blog_migrate/dff720aaa937bb37c124eb9f500549f3.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/453977cc0a12a9a67066196aafbf1218.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d54245323ffb77a671884fbc17167fb5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/084f6e5033eb093ec45cd7e5490ff567.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
![](https://i-blog.csdnimg.cn/blog_migrate/084f6e5033eb093ec45cd7e5490ff567.png)
![](https://i-blog.csdnimg.cn/blog_migrate/7dfd52e87bb1e3537ce3c67616d8ea6f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/90934dec8f7195d0bf8579a7586624b1.png)
![](https://i-blog.csdnimg.cn/blog_migrate/d41260f07e7a4875cbec66eb587e36ca.png)
![](https://i-blog.csdnimg.cn/blog_migrate/a67997959a3113eadaa8461c4ef558d6.png)
![](https://i-blog.csdnimg.cn/blog_migrate/57d16da800736e1f26a3f2008e3ef524.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0d66c465bc76eb1101b85616fc4fa52e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/e6808e46f7278e28bcc09c0fc0cf1e8d.png)
4. CNN中的池化层
![](https://i-blog.csdnimg.cn/blog_migrate/bdbd5ab86dc453ed385cb4c9c7c79924.png)
5. CNN模型结构小结
(欢迎转载,转载请注明出处。欢迎沟通交流: pinard.liu@ericsson.com)
参考资料:
1) Neural Networks and Deep Learning by By Michael Nielsen
2) Deep Learning, book by Ian Goodfellow, Yoshua Bengio, and Aaron Courville
4)CS231n Convolutional Neural Networks for Visual Recognition, Stanford