卷积神经网络

概述

简单描述
首先介绍神经网络的参数。这些参数是由一些可学习的滤波器集合构成的，每个滤波器在空间上（宽度和高度）都比较小个人觉得这个滤波器就是卷积核，但是深度和输入数据的深度保持一致。网络的第一层卷积一个典型的滤波器的尺寸是5 * 5 * 3（宽度高度深度），或者是3 * 3 * 3，这里的宽和高可以任意定义，但是深度必须是3，因为深度要和输入一致，而输入的图片是3通道的。在前向传播时，让每个滤波器都在输入数据的宽度和高度上滑动，然后计算整个滤波器和输入数据任意一处的内积。以下就要滤波器称为卷积核。

卷积层
在每个卷积层上，会有一个个集合的滤波器，滤波器将形成的激活图在深度方向上层叠起来形成卷积层的输出。卷积神经网络的主要层结构有三个：卷积层，池化层，全连接层通过堆叠这些层结构形成了一 完整的卷积神经网络。卷积层和全连接层拥有参数，而激活层和池化层不含有参数这些参数通过梯度下降法来更新，使得求最后模型尽可能正确地识别出图片类别。空间排列：在滑动滤波器的时候，指定必须每次滤波器的移动步长

边界填充：可以将输入数据用0在边界进行填充，这里将填充0的尺寸作为一个超参数，有一个好处就是：可以控制输出数据在空间上的尺寸，最常用来保证输入和输出在空间上尺寸一致输出尺寸到底是多少呢可用公式计算：？（WF + 2P）/（S）+ 1.举例见图：

总结：

池化层
通常会在卷积层之间周期性插入一个池化层，其作用是逐渐降低数据体的空间尺寸，这样就能够减少网络中的参数的数量，减少计算资源耗量，同时也能够有效地控制过拟合。通常池化层采用的是取这些窗口中的最大值（类似卷积核的矩阵中的最大值）作为输出结果，然后不断滑动窗口，对输出数据体每一个深度切片单独处理，减少它的空间尺寸。池化层之所以有效，是因为图片特征具有不变性，也就是说通过下采样不会降低丢失图片拥有的特征，由于这种特性，我们可以将图片缩小再进行卷积处理，这样就能够大大降低卷积运算的时间，并且激活数值大的特征，去除一些噪声信息。！[ 这里写图片描述] （https://img-blog.csdn.net/20180227100642961?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveWFuZ3lhbmdfeWFuZ3Fp/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70 ）

• 全连接层 *
  一般经过了一系列的卷积层和池化层之后，提取出图片的特征图，将特征图中的所有神经元变成全连接层的样子，再经过几个隐藏层，最后输出结果。在此过程中，为防止过拟合会引入差。

小滤波器的有效性：多层小滤波器卷积层的叠加效果比单层大滤波器的效果更好一点，可能会提取出更深层次的特征。

零填充：保证输入和输出层在空间维度上保持一致。