Xception中的Depthwise卷积和Pointwise卷积

最新推荐文章于 2022-07-24 14:59:13 发布
最新推荐文章于 2022-07-24 14:59:13 发布
阅读量261 收藏
点赞数
分类专栏： 深度学习 文章标签： 卷积 卷积神经网络
原文链接：https://blog.csdn.net/tintinetmilou/article/details/81607721
版权

Depthwise卷积和Pointwise卷积构成了Depthwise Separable Convolution(Xception论文地址)，该结构相比于常规卷积，其参数量和运算成本较低，常常出现在MobileNet等轻量级结构中。

Depthwise Separable Convolution

它将一个完成的卷积运算分成两步完成，即DW和PW。

Depthwise Convolution

DW卷积中: 一个卷积核负责一个channel。输入通道数等于输出通道数，即卷积核的数量等于输入特征图的通道数。
在这里插入图片描述
PW卷积中： 卷积过程与常规卷积运算类似，它的卷积核的尺寸为1x1xM,M为上一层特征图的通道数，有几个卷积核最后就会输出几个通道数。
在这里插入图片描述
本文转载自Depthwise卷积和Pointwise。按照自己的理解记录下来。

沐风大大
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Depthwise卷积与Pointwise卷积
Cutepingping的博客
02-12 5995
Depthwise卷积与Pointwise卷积 Depthwise卷积与Pointwise卷积，合起来被称作 Depthwise Separable Convolution, 该结构和常规的卷积操作类似，可以用来提取特征，但相比于常规的卷积操作，其参数量和运算成本比较低，所以在一些轻量级网络中会碰到如此结构。 常规卷积操作 对于一张5x5像素，三通道彩色输入图片，经过3x3x4卷积核的卷积层...
关于深度可分离卷积 Depthwise Pointwise Convolution
vivavivaa的博客
04-25 742
关于Pointwise Convolution ​ 最近在学习3维点云处理，这边有看到关于pointwise。 （图源 知乎：轻量化网络——MobileNet - 知乎 (zhihu.com)） ​ 关于深度可分离卷积，以下我的理解。 ​ 其中输入通道为M，输出通道为N。 ​ 考虑kernel size 为(Dk, Dk)的卷积核。 ​ 这里考虑单个卷积核对应输入feature区域的操作。即kernel size (D, D) * feature (D, D) ​ ​ 将 传统卷积 **
37. Depthwise卷积与Pointwise卷积 - 干巴他爹的小本本 - CSDN博客1
08-04
经过3×3卷积核的卷积层（假设输出通道数为4，则卷积核shape为3×3×3×4），最终输出4个为尺寸变为3×3。同样是对于一张5×5像素、三通道彩色输入图片（
深度可分离卷积（DepthwiseSeparableConvolution）：Depthwise卷积与Pointwise卷积
xu.hyj
07-24 8935
深度可分离卷积不用多说，在轻量级网络架构方面是一个绕不开的话题，只要接触深度学习多多少少会接触。深度可分离卷积即DepthwiseSeparableConvolution，该卷积将一个常规卷积过程划分成两个完成Depthwise卷积和Pointwise卷积，在保证输出一样时，计算量大大降低。首先来看，一个常规卷积是怎么实现的。其示意图如果我们从通道数变换的角度来看，卷积就是将3通道的tensor变为了4通道的tensor，我们来看看深度可分离卷积是怎么实现通道的变化的。...
Tensorflow tf.nn.depthwise_conv2d如何实现深度卷积的
12-20
深度可分离卷积将传统的卷积操作分解为两个步骤：深度卷积（Depthwise Convolution）和逐点卷积（Pointwise Convolution）。深度卷积部分仅考虑输入图像的每个通道，而逐点卷积则用于合并这些单独处理的通道，形成...
从Inception到Xception，卷积方式的成长之路！
雷恩Layne
08-06 3718
2014年Google提出了多尺度、更宽的Inception网络结构，不仅比同期的VGG更新小，而且速度更快。Xception则将Inception的思想发挥到了极致，解开了分组卷积和大规模应用的序幕。 本文将详细讲述 Inception v1的多尺度卷积和Pointwise Conv Inception v2的小卷积核替代大卷积核方法 Inception v3的卷积核非对称拆分 Bottleneck卷积结构 Depthwise Separable Conv深度可分离卷积 多尺度卷积 Inception
Xception：Deep Learning with Depthwise Separable Convolutions论文阅读解释
albertshi12的博客
07-31 3338
论文链接：https://arxiv.org/abs/1610.02357 声明：本文属于个人阅读论文时理解的中文意思，并不是对每个单词的翻译，如有错误，敬请谅解。欢迎大家的指点。 摘要 在卷积神经网络中，我们将Incpetion模块解释为规则卷积到depthwise separable convolutions操作（一个depthwise convolution后面跟一个pointwise...
【卷积】分类：因果、depthwise、pointwise、空洞、转置卷积等
化甘
03-26 912
文章目录Conv1D因果卷积空洞卷积因果空洞卷积SeparableConv1DConv2D单通道与多通道 卷积单卷积核与多卷积核 卷积DepthwiseConv2DPointwise ConvolutionSeparableConv2D空洞卷积Conv2DTranspose 常见的卷积有：因果、depthwise、pointwise、空洞、转置卷积等，如何区分它们呢？ 首先卷积可以分为一维卷积和二维卷积 Conv1D Conv2D 还可包括 Conv1DTranspose, Conv2DTranspo
【深度学习】Depthwise Sparable Convolution（Xception的核心模块）
zzmmjj的博客
01-28 1600
Depthwise Separable Convolution 1.简介 Depthwise Separable Convolution 是谷歌公司于2017年的CVPR中在论文”Xception: deep learning with depthwise separable convolutions”中提出。 2.结构简介 对输入图片进行分通道卷积后做1*1卷积。结构如下图： 举例
Xception总结
ZDA_fight的博客
06-09 4371
2017_Xception 图： 网络描述： Xception是谷歌公司继Inception后，提出的InceptionV3的一种改进模型，其改进的主要内容为采用depthwise separable convolution来替换原来Inception v3中的多尺寸卷积核特征响应操作。 首先要讲一下什么是depthwise separable convolution：对于一个卷积点而言，假设有一个3×3大小的卷积层，其输入通道为16、输出通道为32。具体为，32个3×3大小的卷积核会遍历16个通道中的每
Xception算法详解
热门推荐
AI之路
07-15 7万+
论文：Xception: Deep Learning with Depthwise Separable Convolutions 论文链接：https://arxiv.org/abs/1610.02357算法详解： Xception是google继Inception后提出的对Inception v3的另一种改进，主要是采用depthwise separable convolution来替换原来I
Depthwise Separable Convolution详解
04-07 1万+
转载自 常规卷积运算 假设输入层为一个大小为64×64像素、三通道彩色图片。经过一个包含4个Filter的卷积层，最终输出4个Feature Map，且尺寸与输入层相同。整个过程可以用下图来概括。 此时，卷积层共4个Filter，每个Filter包含了3个Kernel，每个Kernel的大小为3×3。因此卷积层的参数数量可以用如下公式来计算： N_std = 4 × 3 × 3 × 3 = 10...
Depthwise 卷积 ，Pointwise 卷积与普通卷积的区别
Bolly_He的博客
04-11 7267
1 普通卷积 原理：普通卷积是，一个卷积核与input的所有通道都进行卷积，然后不同通道相同位置卷积后的结果再相加，如下图所示，：⾸先，每个通道内对应位置元素相乘再相加，最后计算所有通道的总和作为最终结果。卷积核的Channel通道数等于Input输⼊的通道数，Output输出的通道数等于卷积核的个数。 2 Depthwise 卷积 原理：Depthwise 卷积的一个卷积核只负责一个通道，一个卷积核只与一个通道卷积。那么卷积核数需要与输入的通道数相等，输出的通道数也不变，等于输入的通
深度可分离卷积（Xception 相关）
dujuancao11的博客
07-20 3712
卷积神经网络经过不断的改进和优化，卷积早已不是当年的卷积，诞生了分组卷积（Group convolution）、空洞卷积（Dilated convolution 或 À trous）等各式各样的卷积。今天主要讲一下深度可分离卷积（depthwise separable convolutions），这是 Xception 以及 MobileNet 系列的精华所在。 从 Inception module 到深度可分离卷积 Xception 的论文中提到，对于卷积来说，卷积核可以看做一个三维的滤波器：通道维.
深度学习网络结构笔记----Depthwise卷积与Pointwise卷积--深度可分卷积-- GoogleNet，Xception，MobileNetv1--v3
YOULANSHENGMENG的博客
11-05 4910
1，常规卷积操作 对于一张5×5像素、三通道彩色输入图片（shape为5×5×3）。经过3×3卷积核的卷积层（假设输出通道数为4，则卷积核shape为3×3×3×4），最终输出4个Feature Map，如果有same padding则尺寸与输入层相同（5×5），如果没有则为尺寸变为3×3。 Depthwise Separable Convolution是将一个完整的卷积运算分解为两步进行，即Depthwise Convolution与Pointwise Convolution。...
dwconv深度卷积示意图
最新发布
06-27
深度卷积（Depthwise Convolution，简称DWConv）是一种特殊的卷积操作，它主要用于深度神经网络中，特别是在MobileNet和Xception这样的轻量级网络架构中。相比于传统的卷积，DWConv对输入特征图的每个通道（color channel）分别进行卷积，也就是说它只做空间滤波，不进行跨通道的融合。 DWConv的示意图通常包括以下几个关键部分： 1. 输入特征图（Input Feature Map）：表示原始的图像或前一层的输出，通常是3D张量，包含高度、宽度和通道数。 2. 卷积核（Depthwise Kernel）：它是1x1的大小，针对每个输入通道应用一个独立的滤波器，其维度是1x1x输出通道数×输入通道数。 3. 卷积操作：对于输入的每一个通道，使用单独的1x1滤波器进行滑动，生成一个新的通道输出。 4. 逐通道相加（Channel-wise Addition）：生成的每个通道的输出会被叠加在一起，形成输出特征图，但通道数仍然是输入的一半。 5. 输出特征图（Output Feature Map）：这是经过深度卷积处理后的结果，通常会接着进行1x1的点卷积（Pointwise Convolution），用于减少通道数并增加非线性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值