【卷积神经网络】

用卷积代替全连接

局部连接：在卷积层中的每一个神经元都只和下一层中某个局部窗口内的神经元相连，构成一个局部连接网络。

权重共享：可以理解为一个卷积核只捕捉输入数据中的一种特定的局部特征。要提取多种特征，就需要使用多个不同的卷积核。

卷积层

卷积层作用是提取局部区域的特征，不用卷积核为不同的特征提取器。

特征映射：一幅图像经过卷积提取到的特征，每个特征映射可以作为一类抽取的图像特征。为了提高卷积网络的表示能力，可以在每一层使用多个不同的特征映射，以更好地表示图像的特征。

池化层

进行特征选择，降低特征数量，减少参数数量。

卷积层后加池化层，可以降低维数，在接分类器的时候，可以避免过拟合。

减少特征维数也可以通过增加卷积步长来实现。

池化层对输入特征映射划分的每个区域进行下采样得到值作为这个区域的概括。

池化层可以有效减少神经元数量，还可以使得网络对一些小的局部形态改变保持不变性，并拥有更大的感受野。

过大的采样区域会急剧减少神经元的数量，也会造成过多的信息损失。

• 最大池化

• 平均池化

总结

卷积网络整体结构趋向于使用更小的卷积核，如1x1或3x3，以及更深的结构。