【深度学习笔记】1×1卷积核

一、来源
conv 1×1来自论文Network in Network（NIN）
二、作用

• 对于单通道图像，其作用仅仅为线性计算。
• 对于多通道图像，遵守深度神经网络的卷积过程，用一个conv 1×1卷积计算图像各个通道，其本质是一个全连接神经网络。
  
  图1
  例：若输入为3×3×32，卷积为1×1×10，其卷积过程如下。
  
  图2
  三、优点
• 添加非线性特性
  conv 1×1之后会接ReLu激活函数，在保持feature map尺度不变的情况下（不损失分辨率），加深网络层数，提高网络抽象表达能力。
• 对通道实行升/降维
  在使用1×1卷积核进行卷积时，可以自定义通道数量，卷积过程中不会改变图像的height和width，可以改变图像的channel。
• 跨通道信息融合
  使用1×1卷积核，实现升/降维的过程就是channel间信息的线性组合。例如，3×3×64的图像后面添加一个1×1×28的卷积，最后输出就是3×3×28。原来的64通道跨通道线性组合变成了28通道，达成通道间信息交互。

参考：

https://blog.csdn.net/weixin_41936775/article/details/120083958