一、来源
conv 1×1来自论文Network in Network(NIN)
二、作用
- 对于单通道图像,其作用仅仅为线性计算。
- 对于多通道图像,遵守深度神经网络的卷积过程,用一个conv 1×1卷积计算图像各个通道,其本质是一个全连接神经网络。
图1
例:若输入为3×3×32,卷积为1×1×10,其卷积过程如下。
图2
三、优点 - 添加非线性特性
conv 1×1之后会接ReLu激活函数,在保持feature map尺度不变的情况下(不损失分辨率),加深网络层数,提高网络抽象表达能力。 - 对通道实行升/降维
在使用1×1卷积核进行卷积时,可以自定义通道数量,卷积过程中不会改变图像的height和width,可以改变图像的channel。 - 跨通道信息融合
使用1×1卷积核,实现升/降维的过程就是channel间信息的线性组合。例如,3×3×64的图像后面添加一个1×1×28的卷积,最后输出就是3×3×28。原来的64通道跨通道线性组合变成了28通道,达成通道间信息交互。
参考:
https://blog.csdn.net/weixin_41936775/article/details/120083958