Depthwise卷积与Pointwise卷积

已于 2022-07-12 09:50:09 修改
阅读量648 收藏 10
点赞数 3
分类专栏： 深度学习基础 文章标签： 计算机视觉 深度学习 cnn
于 2021-12-02 20:21:59 首次发布
原文链接：https://blog.csdn.net/tintinetmilou/article/details/81607721?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163844511516780264099854%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=163844511516780264099854&biz_id=0&utm_m
版权

Depthwise(DW)卷积与Pointwise(PW)卷积，合起来被称作Depthwise Separable Convolution(参见Google的Xception)，该结构和常规卷积操作类似，可用来提取特征，但相比于常规卷积操作，其参数量和运算成本较低。所以在一些轻量级网络中会碰到这种结构如MobileNet。

常规卷积操作

对于一张55像素的三通道彩色图片,经过33卷积核(假设输出通道为4,卷积核为4个333的卷积核),最终输出4个特征图.如果有same padding则尺寸与输入层相同(5*5).
在这里插入图片描述

Depthwise Separable Convolution

Depthwise Separable Convolution是将一个完整的卷积运算分解为两步进行,即Depthwise Convolution与Pointwise Convolution

Depthwise Convolution

不同于常规卷积操作,Depthwise Convolution的一个卷积核负责一个通道,一个通道只被一个卷积核卷积.上面所提及的常规卷积每个卷积核是同时操作输入图片的每个通道.

同样是对于一张55像素\三通道彩色输入图片(shape为55*3)，Depthwise Convolution首先经过第一次卷积运算，不同于上面的常规卷积，DW完全是在二维平面内进行。卷积核的数量与上一层的通道数相同（通道和卷积核一一对应）。所以一个三通道的图像经过运算后生成了3个Feature map(如果有same padding则尺寸与输入层相同为5×5)，如下图所示。

在这里插入图片描述
Depthwise Convolution完成后的Feature map数量与输入层的通道数相同，无法扩展Feature map。而且这种运算对输入层的每个通道独立进行卷积运算，没有有效的利用不同通道在相同空间位置上的feature信息。因此需要Pointwise Convolution来将这些Feature map进行组合生成新的Feature map。

Pointwise Convolution

Pointwise Convolution的运算与常规卷积运算非常相似，它的卷积核的尺寸为 1×1×M，M为上一层的通道数。所以这里的卷积运算会将上一步的map在深度方向上进行加权组合，生成新的Feature map。有几个卷积核就有几个输出Feature map。如下图所示。
在这里插入图片描述

总结

  1. depthwise层，只改变feature map的大小，不改变通道数。。而Pointwise 层则相反，只改变通道数，不改变大小。这就是将常规卷积的做法拆分两步走
  2. 虽然使用深度可分离卷积可以让参数量变小，但是实际上用GPU训练的时候深度可分离卷积会非常的占用内存，并且比普通的3*3卷积要慢很多（实测）
Good@dz
关注
  • 3
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
37. Depthwise卷积与Pointwise卷积 - 干巴他爹的小本本 - CSDN博客1
08-04
在追求高效和轻量级网络设计时，Depthwise卷积和Pointwise卷积组成的Depthwise Separable Convolution成为了一种重要的优化手段。这种结构在保持性能的同时，显著减少了模型的参数量和计算复杂度，尤其适用于资源...
深度可分离卷积（DepthwiseSeparableConvolution）：Depthwise卷积与Pointwise卷积
xu.hyj
07-24 8756
深度可分离卷积不用多说，在轻量级网络架构方面是一个绕不开的话题，只要接触深度学习多多少少会接触。深度可分离卷积即DepthwiseSeparableConvolution，该卷积将一个常规卷积过程划分成两个完成Depthwise卷积和Pointwise卷积，在保证输出一样时，计算量大大降低。首先来看，一个常规卷积是怎么实现的。其示意图如果我们从通道数变换的角度来看，卷积就是将3通道的tensor变为了4通道的tensor，我们来看看深度可分离卷积是怎么实现通道的变化的。...
深度学习网络结构笔记----Depthwise卷积与Pointwise卷积--深度可分卷积-- GoogleNet，Xception，MobileNetv1--v3
YOULANSHENGMENG的博客
11-05 4635
1，常规卷积操作 对于一张5×5像素、三通道彩色输入图片（shape为5×5×3）。经过3×3卷积核的卷积层（假设输出通道数为4，则卷积核shape为3×3×3×4），最终输出4个Feature Map，如果有same padding则尺寸与输入层相同（5×5），如果没有则为尺寸变为3×3。 Depthwise Separable Convolution是将一个完整的卷积运算分解为两步进行，即Depthwise Convolution与Pointwise Convolution。...
Pointwise convolution；Depthwise convolution；Groupwise convolution
weixin_43609185的博客
12-21 2386
转自：https://www.cnblogs.com/qiulinzhang/p/11541029.html Pointwise convolution;Depthwise convolution;Groupwise convolution都是在标准卷积的基础上进行修改，以达到参数削减，同时保证准确率能够满足要求的目的 标准卷积示意图： image.png 这里假设卷积层的输入通道数为 Cin ,输出通道数为 Cout,假设采用 k * k 大小的卷积核来进行卷积，那么最终需要 Cout个 尺寸为k∗K∗
Depthwise Separable Convolution详解
热门推荐
04-07 1万+
转载自 常规卷积运算 假设输入层为一个大小为64×64像素、三通道彩色图片。经过一个包含4个Filter的卷积层，最终输出4个Feature Map，且尺寸与输入层相同。整个过程可以用下图来概括。 此时，卷积层共4个Filter，每个Filter包含了3个Kernel，每个Kernel的大小为3×3。因此卷积层的参数数量可以用如下公式来计算： N_std = 4 × 3 × 3 × 3 = 10...
分组卷积与dw卷积
ab0902cd的博客
12-28 2243
分组卷积、可分离卷积
pointwise 卷积神经网路
11-18
pointwise 卷积神经网路 CVPR2018 Deep learning with 3D data such as reconstructed point clouds and CAD models has received great research inter- ests recently. However, the capability of using point ...
python实现卷积，通道卷积
09-23
def pointwise_conv2d(input_data, pointwise_filter): # 实现逐点卷积的代码... ``` 最后，将这两个部分结合，即可完成可分离卷积。 在提供的压缩包文件中，`mnist_qcnn02.pt`可能是一个训练好的量子卷积网络...
Pointwise Convolutional Neural Networks 论文翻译
11-03
github项目地址：https://github.com/scenenn/pointwise 在本文中，我们提出了一种用于3D点云的语义分割和目标识别的卷积神经网络。 我们网络的核心是逐点卷积，这是一种新的卷积算子，可以作用于点云的每个点。我们...
深度可分离卷积网络的理论与实战（TF2.0）
12-20
深度可分离卷积则是将这两个步骤分离，首先进行通道分离卷积（Depthwise Convolution），然后进行点乘卷积（Pointwise Convolution）。 1. **通道分离卷积（Depthwise Convolution）**：这一阶段的目标是对输入的每...
神经网络卷积操作总结
lpj822的专栏
03-28 2059
神经网络卷积操作总结简介Convolution1x1/Pointwise ConvolutionsSpatial and Cross-Channel ConvolutionsGrouped ConvolutionsSeparable ConvolutionsSpatially Separable ConvolutionsDepthwise Separable ConvolutionsFlatten...
1*1卷积层的作用（pointwise convolution）
m0_37663482的博客
09-04 3997
自己画了一张图： 一个n*n，256个通道的feature map，经过一个1*1,64层的卷积核进行卷积，结果得到一个n*n，64通道的map，相当于发生了降维。即ResNet的设计的bottleneck的第一步：256-d经1x1,64进行降维。 第二步从64通道到256通道同理。 关于参数数量的减少具体参见这篇博客： https://blog.csdn.net/renhaofan...
Depthwise 卷积 ，Pointwise 卷积与普通卷积的区别
Bolly_He的博客
04-11 7151
1 普通卷积 原理：普通卷积是，一个卷积核与input的所有通道都进行卷积，然后不同通道相同位置卷积后的结果再相加，如下图所示，：⾸先，每个通道内对应位置元素相乘再相加，最后计算所有通道的总和作为最终结果。卷积核的Channel通道数等于Input输⼊的通道数，Output输出的通道数等于卷积核的个数。 2 Depthwise 卷积 原理：Depthwise 卷积的一个卷积核只负责一个通道，一个卷积核只与一个通道卷积。那么卷积核数需要与输入的通道数相等，输出的通道数也不变，等于输入的通
深度可分离卷积（Depthwise Separable Convolution）
吃葡萄不吐葡萄皮
08-17 1842
深度可分离卷积（Depthwise Separable Convolution）是一种卷积神经网络中常用的卷积操作，它在减少计算量的同时保持了较好的特征提取能力，因此被广泛用于轻量化的模型设计中。标准卷积使用一个卷积核对输入数据进行卷积，而深度可分离卷积将卷积操作分解为深度卷积和逐点卷积，从而显著减少了参数量。深度卷积只使用一个卷积核对输入通道逐通道进行卷积，逐点卷积使用1x1的卷积核进行通道之间的混合。深度卷积是在输入的每个通道上分别应用卷积核，生成相同数量的通道，然后将这些通道按通道维度进行堆叠。
Pointwise Convolution和Depthwise Convolution
qq_43349542的博客
06-15 424
参考: link. Pointwise Convolution实际就是1x1卷积
【点云处理之论文狂读经典版9】—— Pointwise Convolutional Neural Networks
yuanmiyu6522的博客
06-04 994
equivariance 与 invariance有什么区别吗？Convolution一个convolution kernel以点云中的每个点为中心。kernel中的neighbor points可以对center point产生影响。每个kernel都有一个size或radius，可以根据每个卷积层中neighbor points的数量进行调整。pointwise convolution可以表示为： xiℓ=∑kwk1∣Ωi(k)∣∑pj∈Ωi(k)xjℓ−1 x_{i}^{\ell}=\sum_{k}
探索 CNN 中的逐点卷积：替换全连接层
最新发布
Mo 的博客
01-03 654
卷积神经网络 (CNN) 一直是理解图像和模式、改变深度学习格局的关键角色。这个旅程从 Yan 介绍 LeNet 架构开始，今天，我们有一系列 CNN 可供选择。传统上，这些网络严重依赖于完全连接的层，尤其是在将事物分类为不同类别时。但是等等，空气中有变化。我们正在探索一种使用 Pointwise Convolution 的不同架构，这是一种全新且改进的 CNN 方法。就像走上了一条新路。这种方法挑战了通常使用的全连接层，带来了一些很酷的好处，使我们的网络更智能、更快速。
depthwise convolution and pointwise convolution
06-11
深度可分离卷积由深度卷积（Depthwise Convolution）和逐点卷积（Pointwise Convolution）两个部分组成。 深度卷积是在每个输入通道上分别进行卷积，它只使用一个卷积核，得到每个通道的输出。这样可以大大减少计算...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值