Depthwise卷积convolution

   

       不同于常规卷积操作,Depthwise Convolution的一个卷积核负责一个通道,一个通道只被一个卷积核卷积。上面所提到的常规卷积每个卷积核是同时操作输入图片的每个通道。

       同样是对于一张5×5像素、三通道彩色输入图片(shape为5×5×3),Depthwise Convolution首先经过第一次卷积运算,不同于上面的常规卷积,DW完全是在二维平面内进行。卷积核的数量与上一层的通道数相同(通道和卷积核一一对应)。所以一个三通道的图像经过运算后生成了3个Feature map(如果有same padding则尺寸与输入层相同为5×5),如下图所示。

而常规的卷积 

     Pointwise(PW)卷积就是卷积核为1x1的,也叫点卷积,对map处理,得到新的Feature map。

  • 20
    点赞
  • 43
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 深度可分离卷积(Depthwise Separable Convolution)是一种卷积方式,它将卷积操作分为两步来进行:深度卷积和点卷积。其中,深度卷积对于每个输入通道分别做卷积,而点卷积则将各个输入通道的卷积结果按照权值线性组合。这样可以减少参数量,加速计算,并且能够在保持精度的前提下压缩模型。 ### 回答2: Depthwise separable convolution(深度可分离卷积)是一种轻量级的卷积操作,它可以有效降低模型的参数量和计算量,从而实现更加高效的模型训练和推理。 相比于传统的卷积操作,depthwise separable convolution 由两个步骤构成:depthwise convolution(深度卷积)和pointwise convolution(逐点卷积)。具体来说,先对输入的每个通道单独进行卷积操作(即深度卷积),然后再通过逐点卷积来将各个通道的特征进行整合,最终得到输出结果。 对于一个用于目标识别的卷积网络来说,depthwise separable convolution 的主要优势在于它能够显著减少网络中的参数量和计算量。由于在进行深度卷积时,每个通道都是单独进行处理,所以会大幅降低计算量和计算时间。而逐点卷积则可以有效压缩卷积层的通道数,从而降低参数量和内存占用。 举个例子,假设对于一个输入大小为H×W×C的图像,原本需要使用大小为K×K×C×S的卷积核来进行卷积操作,其中S表示输出通道数目。那么使用 depthwise separable convolution 进行操作时,先使用大小为K×K×C的卷积核进行深度卷积(相当于使用了C个大小为K×K的卷积核),然后通过大小为1×1×CS的卷积核进行逐点卷积。这样,在输出相同结果的情况下,参数量和计算量就能大幅降低,从而加速模型的训练和推理。 总之,depthwise separable convolution 是一种轻量级的卷积操作,可以有效压缩模型的参数量和计算量,提高模型的计算效率。在目标识别等领域,可以作为一种强大的工具,用于设计更加高效的卷积神经网络。 ### 回答3: Depthwise separable convolution(深度可分离卷积)是一种卷积神经网络(CNN)中用于减少网络参数个数和计算量的结构。它是由谷歌的研究者提出的一种卷积结构,并在MobileNet中得到广泛应用。 普通的卷积神经网络是由卷积层、池化层和全连接层组成。其中,卷积层是网络中最消耗时间和空间的部分,需要大量的计算资源。深度可分离卷积是一种卷积结构,通过分离卷积的过程,将卷积操作分为两个部分:深度卷积和逐点卷积。 首先,深度卷积只在每个输入通道上进行卷积操作,而不是在所有输入通道上同时进行。这样可以减少卷积核的数量。其次,逐点卷积使用1x1的卷积核,对每个通道分别进行卷积操作。这可以将通道之间的相互影响降到最低。 因为这种分离,深度可分离卷积可以明显降低计算量和模型参数,能够在保证模型精度的情况下,让模型具有更小的体积和更高的运行速度。相比于普通的卷积神经网络,深度可分离卷积具有更好的效率和性能。 深度可分离卷积的应用可以广泛用于移动端设备、无线网络等资源有限的环境中。它在现代机器学习使用中得到了广泛的应用,包括在计算机视觉领域(如图像识别、物体检测)和语音处理领域(如语音识别)等。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值