CNN卷积网络

CNN卷积网络

输入层： 输入层是32×32 RGB图像。
注：有必要计算每一层输出的图片大小。

卷积层： 卷积层的核心在于卷积核与激活函数。
  卷积层最主要的作用是寻找与卷积核匹配的特征,因为与卷积核符合（卷积核权重较大的位置）的话，卷积后该区域的值也就越大，也就是说，feature map的值越大，表示该处特征越明显。

激活函数的作用是使模型具有非线性性。缺少激活函数的模型是一个线性模型，这样无法模拟任意函数，模型的各层与一个线性函数的效果是一样的。
  激活函数一般选择sigmoid, tanh， relu函数。（深层网络选用relu较多，因为relu可以将部分神经元的输出置0，造成网络的稀疏性，可以缓解过拟合的问题）

pool层：
  池化层（也叫下采样层）一般用maxpool。
  池化层的作用在于提取重要特征，忽视较小的特征（前面卷积可以通过数字大小决定与特征的符合程度），大幅降低权重参数，减小计算成本。
  
全连接层：
  全连接层（fully connected layers，FC）在整个卷积神经网络中起到“分类器”的作用。与池化和卷积不同，它是全局操作，它从前一层获取输入，并全局分析所有前一层的输出。然后将所有特征进行各种可能的组合，用于数据分类。
  先将上一层卷积层的输出展平，扩展成1通道的向量X，然后再对这个向量通过权重W变到Y = W*X, 然后用激活函数非线性化, 经过几个这样的全连接层后,最后一层输出为各个类别的概率.