1.通道数放缩。池化层只能改变输入图像的高度和宽度,无法改变通道数,1x1卷积通过控制卷积核的数量,可以实现通道数的增加或者减少。
2.1x1卷积核的卷积过程相当于全连接的计算过程,通过加入非线性激活函数,可以增加网络的非线性,使得网络可以表达更复杂的特征。
3.1x1卷积在模型设计中,可以起到模型优化和减少参数量的作用。
(1)如果不使用1x1卷积核的计算参数量:
使用1x1卷积核的计算参数量:
可以看到不使用1x1的卷积核是使用卷积核的10倍左右,所以1x1卷积核对于降低计算量是非常有效的。
(2)不使用1x1卷积核的计算权重数:
权重数:1x1x64x192+3x3x128x192+5x5x32x192=387072
使用1x1卷积的计算权重数:
权重数:1x1x64x192+(1x1x96x192+3x3x128x96)+(1x1x16x192+5x5x32x16)+1x1x192x32=163328个权重参数
总结:可以看到不使用1x1的卷积核是使用1x1卷积核的权重数2倍之多。同时也增加的了非线性。