常见卷积的区别，eg：普通卷积，Depthwise卷积,Pointwise卷积,Depthwise separable convolution

1 普通卷积
        普通卷积是，一个卷积核与input的所有通道都进行卷积，然后不同通道相同位置卷积后的结果再相加，如下图所示，：⾸先，每个通道内对应位置元素相乘再相加，最后计算所有通道的总和作为最终结果。卷积核的Channel通道数等于Input输⼊的通道数，Output输出的通道数等于卷积核的个数。

注释：普通卷积可改变通道数，也可以改变feature map 的大小。

 

 

2 Depthwise 卷积
        Depthwise 卷积的一个卷积核只负责一个通道，一个卷积核只与一个通道卷积。那么卷积核数需要与输入的通道数相等，输出的通道数也不变，等于输入的通道数，等于卷积核数。所以depthwise卷积只改变特征图的大小，不改变通道数。但这种运算对输入层的每个通道独立进行卷积运算，没有有效的利用不同通道在相同空间位置上的feature信息。

注释：depthwise卷积，只改变feature map的大小，不改变通道数。

 

3 Pointwise卷积
        Pointwise Convolution的运算与常规卷积运算相似，它的卷积核的尺寸为 1×1×M，M为上一层的通道数。所以这里的卷积运算会将上一步的map在深度方向上进行加权组合，生成新的Feature map。有几个卷积核就有几个输出Feature map。

注释：Pointwise卷积，不改变feature map的大小，只改变通道数。

 4 Depthwise separable convolution（深度可分离卷积） 
        深度可分离卷积depthwise separable convolution，由depthwise(DW)和pointwise(PW)结合起来组成。相比常规的卷积操作，其参数数量和运算成本比较低。