一、与全连接层相比卷积层有什么优势?
卷积层可以节省参数,因为卷积运算利用了图像的局部相关性——分析出一小片区域的特点,加上Pooling层(汇集、汇聚),从附近的卷积结果中再采样选择一些高价值的信息,让特征向少而精的方向前进。
全连接层相当于考虑全局(整张图像)的特征
二、卷积的另一种解释
傅里叶变换:将数据从空间域的展示形式转变到频率域的形式。
理解:图像比作一道做好的菜,傅里叶变换就是找出这道菜具体 的配料及各种配料的用量。
图像中,低频信息是大体轮廓(整体),高频信息是图中物体的纹理特征
若A, B是矩阵,下面两式是等价的
C=conv2(A, B)
C=IFFT(FFT(A) * FFT(B)) #这里*是“元素级别的乘法”
对卷积核做傅里叶变换,可以看出高/低频信号的强度,
由于最终要进行元素级的乘法,如果卷积核在某个频率的数值比较低,经过乘法后的输入数据在这个频率的数据也会变小。滤波核在某个频率的数值为0,说明卷积算法计算后会舍弃这部分信息。
Gabor Filter,保留高频舍弃低频,一些文章宣称自己的模型第一层的参数像Gabor Filter。
所以,从傅里叶变换来看,卷积层的意义——