CNN常见问题总结

前言

在初次学习深度学习的时候，必不可少的接触卷积神经网络（CNN），本篇文章就记录一下通过应用CNN来做分类时，自己遇到的一些问题和踩到的一些坑。

• 本文使用的时Pytorch 1.1.0版本，更多关于pytorch的资料可到pytorch官网和pytorch中文网查找资料，有CUDA 10.1版本来进行GPU加速（搞深度学习没GPU基本完蛋）。

CNN原理

CNN网络是一种用来处理局部和整体相关性的计算网络结构，被应用在图像识别（CV）、自然语言处理（NLP）甚至是语音识别领域，因为图像数据具有显著的局部与整体关系，其在图像识别领域的应用获得了巨大的成功。

其实说白了CNN能在CV领域取得巨大成功最重要的就两个点：

• 局部连接
  局部连接的思想，是受启发于生物学里的视觉系统结构，视觉皮层的神经元就是仅用局部接受信息。对于二维图像，局部像素关联性较强。这种局部连接保证了训练后的滤波器能够对局部特征有最强的响应，使神经网络可以提取数据的局部特征； 下图是一个很经典的图示，左边是全连接，右边是局部连接。
  

• 权值共享
  权值共享，即计算同一深度的神经元时采用的卷积核参数是共享的。

• 总结：这里就体现了卷积神经网络的奇妙之处，使用少量的参数，却依然能有非常出色的性能。上述仅仅是提取图像一种特征的过程。如果要多提取出一些特征，可以增加多个卷积核，不同的卷积核能够得到图像不同尺度下的特征，称之为特征图（feature map）。

CNN的结构

以图像分类任务为例，CNN一般包含5种类型的网络层次结构：

1. 输入层（input）。一般输入层都是对原始图像经过数据的预处理之后的像素矩阵，往往数据预处理的越好，结果就越好。
2. 卷积层（conv2d）。局部连接，权值共享，说白了就是做特征提取，卷积层越深提取到的特征就越丰富，分类也就越准确。
3. 批归一化层（Batch Normalization）。虽然我们对输入数据进行了归一化处理，但是输入数据经过 σ(WX+b) 这样的矩阵乘法以及非线性运算之后，其数据分布很可能被改变，而随着深度网络的多层运算之后，数据分布的变化将越来越大。如果我们能在网络的中间也进行归一化处理，是否对网络的训练起到改进作用呢？答案是肯定的。
4. 激活层（ReLU）。激活层(Activation Layer)负责对卷积层抽取的特征进行激活，由于卷积操作是由输入矩阵与卷积核矩阵进行相差的线性变化关系，需要激活层对其进行非线性的映射。激活层主要由激活函数组成，即在卷积层输出结果的基础上嵌套一个非线性函数，让输出的特征图具有非线性关系。
5. 池化层（Pooling）。作用是对感受域内的特征进行筛选，提取区域内最具代表性的特征，能够有效地降低输出特征尺度，进而减少模型所需要的参数量。
6. 全连接（FC）。负责对卷积神经网络学习提取到的特征进行汇总，将多维的特征输入映射为二维的特征输出通常低维度特征对应任务的学习目标。

CNN卷积层的基本参数

卷积层中需要用到卷积核（滤波器或特征检测器）与图像特征矩阵进行点乘运算，利用卷积核与对应的特征感受域进行划窗式运算时，需要设定卷积核对应的大小、步长、个数以及填充的方式。以最简单的例子进行说明：输入信号的形式为$(N,C_{i}n,H,W)$，$N$表示batch size，$C_{i}n$表示channel个数，$H，W$分别表示特征图的高和宽。

1. in_channels(int) – 输入信号的通道
2. out_channels(int) – 卷积产生的通道
3. kerner_size(int or tuple) - 卷积核的尺寸
4. stride(int or tuple, optional) - 卷积步长
5. padding(int or tuple, optional) - 输入的每一条边补充0的层数
6. dilation(int or tuple, optional) – 卷积核元素之间的间距
7. groups(int, optional) – 从输入通道到输出通道的阻塞连接数
8. bias(bool, optional) - 如果bias=True，添加偏置

参数存在如下关系：

input： ( N , C i n , H i n , W i