1x1卷积核主要有2个作用:
- 控制Channel维度的升降,减少参数计算量
- 增加网络的非线性表达能力(通过激活函数实现)
1x1卷积核(1x1 kernel)通常被称为逐点卷积(pointwise convolution)或逐元素卷积(elementwise convolution)。与常规的卷积操作不同,1x1卷积核在水平(左右)方向上只有一个元素。
1x1卷积核的作用是在通道维度上进行线性变换,可以用来调整通道数、降低维度、增加非线性等。它在卷积神经网络中有多种应用,包括:
- 降维和增加维度:通过使用1x1卷积核,可以减少或增加特征图的通道数。例如,可以通过应用具有较少通道数的1x1卷积核来减少计算负担和参数量,或者通过应用具有更多通道数的1x1卷积核来增加模型的表征能力。
- 特征融合:1x1卷积核可以用于在特征图的通道维度上进行融合操作,将不同来源的特征进行线性组合,以获得更高层次的表征。这对于多尺度特征融合和跨层连接非常有用。
- 非线性变换:尽管1x1卷积核在空间维度上没有感受野,但在通道维度上仍然可以引入非线性变换,通过应用激活函数来增加模型的表达能力。
需要注意的是,由于1x1卷积核在空间维度上没有感受野,因此无法捕捉局部空间结构。其主要作用是在通道维度上进行线性变换和特征融合。在卷积神经网络中,1x1卷积核通常与其他尺寸的卷积核(如3x3、5x5等)结合使用,以构建多尺度的特征提取网络。