1*1 卷积核的作用:
1)改变通道(channels)
- 跨通道的特征整合,数据融合
- 特征通道的升维和降维
- 减少卷积核参数(简化模型),减少计算量
2)非线性操作
注意⚠️:1*1卷积一般只改变输出通道数,而不改变输出的高度和宽度
一、GoogLeNet用1*1卷积降低网络参数量:
初始Inception:
- 不同大小的卷积核意味着不同大小的感受野,拼接表示不同尺度特征的融合
- 卷积核大小采用1、3和5,分别设定pad=0、1、2,卷积后得到相同维度的特征
改进Inception:利用1*1卷积降维,减少参数量
例如上一层输出为100*100*128,经过256个5*5卷积,输出100*100*256,卷积层参数为128*5*5*256。
若上一层输出先经过32个1*1卷积层,再经过256个5*5卷积,最终输出仍为100*100*256,卷积层参数减少为128*1*1*32+32*5*5*256,约减少4倍。
二、ResNet用1*1卷积减少参数量:
三、深度可分离卷积应用1*1卷积提取通道关联信息
四、FPN利用1*1卷积实现不同特征层的channel数对齐,进而实现多层特征融合