35.网络结构与模型压缩、加速-2

35.1 Depthwise separable convolution

• Depthwise separable convolution是由depthwise conv和pointwise conv构成
• depthwise conv(DW)有效减少参数数量并提升运算速度
  • 但是由于每个feature map只被一个卷积核卷积，因此经过DW输出的feature map不能只包含输入特征图的全部信息，而且特征之间的信息不能进行交流，导致“信息流通不畅”。
• pointwise conv(PW)实现通道特征信息交流，解决DW卷积导致“信息流通不畅”的问题。
• 假设输入特征的的维度为H * W * c1；卷积核的维度为h1 * w1 * c1，共c2个；输出特征的维度为 H1 * W1 * c2。
• 传统卷积计算方式如下：
  [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ezYb75P5-1676426728986)(https://upload-images.jianshu.io/upload_images/19745945-06d89cb9dc08cea2.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)]
• 传统卷积运算量为：
  
• DW卷积的计算方式如下：