Depthwise卷积与Pointwise卷积
Depthwise卷积与Pointwise卷积,合起来被称作 Depthwise Separable Convolution, 该结构和常规的卷积操作类似,可以用来提取特征,但相比于常规的卷积操作,其参数量和运算成本比较低,所以在一些轻量级网络中会碰到如此结构。
常规卷积操作
对于一张5x5像素,三通道彩色输入图片,经过3x3x4卷积核的卷积层,最终会输出4个feature map。细节可能会先看下代码后再BB这个。
Depthwise Separable Convolution是将一个完整的卷积运算分解为两步运行,即Depthwise 与 Pointwise
Depthwise不同于常规的操作,Depthwise convolution的一个卷积核只负责一个通道,一个通道只被一个卷积核卷积。
同样是对一张5x5像素,3通道彩色输入图片,DC首先先经过第一次卷积运算,DW完全是在二维平面上内进行,卷积核的数量与上一层的通道数相同。所以一个三通道的图像经过运算后生成了3个Feature map。这里其实最终的维数应该是3x3,因为每一个卷积都会作用一次,所以最终是3x3维度。