第五讲--卷积神经网络

全连接NN的特点：每个神经元与前后相邻层的每一个神经元都有连接关系。

全连接网络的参数个数为：

全连接网络一般被认为是分类预测的最佳网络，但待优化的参数过多，容易导致模型过拟合。

为解决参数量过大而导致模型过拟合的问题，一般不会将原始图像直接输入，而是先对图像进行特征提取，再将提取的特征输入全连接网络。

 

1. 卷积神经网络

卷积概念：卷积计算可认为是一种有效提取图像特征的方法。

一般会用一个正方形的卷积核，按指定步长，在输入特征图上滑动，遍历输入特征图中的每个像素点。每一个步长，卷积核会与输入特征图出现重合区域，重合区域对应元素相乘、求和再加上偏置项得到输出特征的一个像素点。如图5-4，利用3x3x1的卷积核对5x5x1的单通道图像做卷积计算得到的结果。

•  对于彩色图像（多通道）来说，卷积核通道数与输入特征一致，套接后在对应位置上进行乘加和操作，如图5-5，利用三通道卷积核对三通道的彩色特征图做卷积计算。

1. 用多个卷积核可实现对同一层输入特征的多次特征提取，卷积核的个数决定输出层的通道（channels）数，即输出特征图的深度。
2. 输入特征图的深度（channel数）决定了当前层卷积核的深度
3. 当前层卷积核的个数，决定了当前层输出特征的深度

 

1.1 感受野（Receptive Field）:  卷积神经网络各输出特征图中的每个像素点，在原始输入图片上映射区域的大小。