理解深度学习中的卷积

卷积神经网络，即：卷积（特征提取）+神经网络（分类器）

传统的特征工程根据个人经验将能想到的特征全部提取出来，用这部分特征数据训练分类器。试错方式。

卷积神经网络用训练数据找最好的特征。怎么找？？？

好的特征（feature map）：应是稀疏的以及包含典型的局部信息。feature map与原图很接近，说明它没有学到什么特征；或者它几乎是一个纯色的图，说明它太过稀疏，可能是我们feature map数太多了（feature_map数太多也反映了卷积核太小）

卷积为什么能够提取图像特征？（以垂直特征为例）

 

 

为什么使用卷积？

1、权值共享

一个卷积核在图像中的一部分有效，在其他部分同样有效。比如：可以提取图像不同部位的边缘特征。

2、稀疏连接

相对于对整幅图像整体进行卷积操作，卷积核事实上是作用于图像的一部分，然后遍历整幅图。

3、平移不变性

当图像中的目标位置改变后，在同一个卷积核作用下，得到的特征值是相同的。

卷积的三种操作

1、valid 操作，滑动步长为S，图片大小为N1xN1，卷积核大小为N2xN2，卷积后图像大小：(N1-N2)/S+1 x (N1-N2)/S+1如下图

2、full 操作，滑动步长为1，图片大小为N1xN1，卷积核大小为N2xN2，卷积后图像大小：N1+N2-1 x N1+N2-1 如下图
 

3、same 操作，滑动步长为1，图片大小为N1xN1，卷积核大小为N2xN2，卷积后图像大小：N1xN1 如下图所示
 

 

为什么使用池化？

池化：选出最能代表局部特征的一个值。

1、减少运算量

2、避免过拟合

性质：一定程度上提高空间不变性（平移不变性、尺度不变性、形变不变性）

最大池化，当图像平移的尺度小于池化矩阵维数时，会得到与平移前一样的池化特征。