CNN：卷积神经网络

1、CNN的基本概念

卷积神经网络与普通神经网络的区别在于，卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中，一个神经元只与部分邻层神经元连接。在CNN的一个卷积层中，通常包含若干个特征平面(featureMap)，每个特征平面由一些矩形排列的的神经元组成，同一特征平面的神经元共享权值，这里共享的权值就是卷积核。卷积核一般以随机小数矩阵的形式初始化，在网络的训练过程中卷积核将学习得到合理的权值。共享权值（卷积核）带来的直接好处是减少网络各层之间的连接，同时又降低了过拟合的风险。子采样也叫做池化（pooling），通常有均值子采样（mean pooling）和最大值子采样（max pooling）两种形式。子采样可以看作一种特殊的卷积过程。卷积和子采样大大简化了模型复杂度，减少了模型的参数。

2、CNN网络结构

CS231n课程：http://cs231n.stanford.edu/  给出了CNN的层级结构，如下图所示：

一共有6个卷积层和3个自采样层

输入层：最左边，对数据进行处理，比如去均值等

中间：n个卷积层和池化层

CONV：卷积计算层

RELU：激励层，RELU是一种激活函数

POOL：池化层，也叫子采样层（sampling），一般是取区域平均值或最大值