CNN

下面粗浅地讲一讲CNN，这一深度学习网络架构的基石之一。

之前查看了很多中英文的讲解CNN的博客资料，发现基本上入门的话都是借助了大量的图形去说明，由于这篇博客不是针对初学者的，主要是给自己一个回顾的作用，因此该博客主要是基于本人自身的理解认知来进行的整体归纳。

卷积神经网络相对于全连接网络最大的特点是具有local receptive fields, shared weights, pooling. 因此本文主要想讲解讲解上述三个内容。

Local Receptive Fields

Local Receptive Fields 某种意义上可以认为就是一个卷积核，每一个卷积核都是一种特征的提取器。

Shared Weights

共享权值是卷积神经网络减少参数的主要方式之一，从input layer到hidden layer, 对于每个卷积核而言，每一个隐藏层的神经元都有(k * k + 1)个参数，其中k * k 是权重参数，同时还有一个bais b。

同时通过理论推到，我们很容易得到卷积之后的卷积长度 H = （W - K + 2P）/S + 1。其中W表示原layer的边长，K表示的是卷积核的大小，P表示的是padding，S表示的是步长stride。

特别的 当S=1时， 设置零填充为 P = (K -1)/ 2 可以保证输入层与输出层有相同的空间分布。

Pooling

池化层一般是跟在卷积层后面的，用于简化卷积的输出结果，或者某种意义上是讲卷积层输出结果进行压缩。

另外，值得注意的是卷积神经网络具有平移不变性。也就是每一层的卷积核都在检测相同的特征，无论这一特征在图片上的哪个位置都会被卷积核扫描到。

以上便是卷积神经网络的基础内容，留做备用。

参考资料
1. Understanding Convolutions（http://colah.github.io/posts/2014-07-Understanding-Convolutions/）
2. Conv Nets: A Modular Perspective (http://colah.github.io/posts/2014-07-Conv-Nets-Modular/)
3. https://zhuanlan.zhihu.com/p/23185164?refer=xiaoleimlnote
4. Convolutional Neural Networks(CNNs/ConvNets)(Best so far) (http://cs231n.github.io/convolutional-networks/)