深度可分离卷积&&组卷积

最新推荐文章于 2025-09-12 16:25:23 发布
原创 最新推荐文章于 2025-09-12 16:25:23 发布 · 1.9k 阅读 · 10 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #人工智能 #神经网络

目录

一：深度可分离卷积

深度可分离卷积完整示意图

普通卷积和深度可分离卷积计算量的对比

二：Group CONV(组卷积)

一：深度可分离卷积

深度可分离卷积被提出于MobileNet中，其主要作用用于减少模型参数和运算量。

深度可分离卷积主要由两部分构成：DW卷积和PW卷积

网络中的亮点在于（1）DW卷积（大大的减少了运算量和参数数量）

（2）增加了参数α和β

传统卷积和DW卷积的对比图如下所示：

在DW卷积中每个卷积核的深度都是为1的，每个卷积核只负责与输入特征矩阵的一个channel进行卷积运算，然后再得到相应的输出矩阵的一个channel

深度可分离卷积完整示意图

图中的PW卷积其实和普通的卷积区别不大，只是将卷积核大小变为1

普通卷积和深

最低0.47元/天 解锁文章
读懂深度可分离卷积（Depth-wise Conv）
m0_56563749的博客
09-21 9346
得到三通道[8,8,3]特征图后，利用1*1卷积进行逐点卷积以将不同通道的特征进行融合，当使用一个三通道[1,1,3]卷积核进行点卷积操作后，原三通道特征图会形成单通道的[8,8,1]特征图，此时，仅需要256个[1,1,3]卷积核就能够输出[8,8,256]的特征图，此时的参数量为1*1*3*256=768，相比于传统卷积操作大大减少了参数量。并且输出特征图和标准卷积相同。DW Conv实际上是由可分离卷积拓展而来，是一种轻量级的卷积操作，能够减少参数量和运算量，FLOPs只有标准卷积的4.4%左右。
pytroch学习笔记六：nn网络层——卷积层
Dear_learner的博客
02-16 4242
通过前面两节的学习，已经知道如何搭建一个网络模型以及搭建模型一个非常重要的类nn.Module和模型容器Containers。搭建网络模型有两个基本的步骤：建立子模块和拼接子模块。建立的子模块就包括卷积层、池化层、激活层和全连接层等。所以这一节就从子模块开始。 一、卷积运算与卷积层 卷积运算：卷积核在输入信号（图像）上滑动，相应位置进行乘加； 卷积层：又称为滤波器，过滤器，可以认为是某种模式，某种特征。 卷积的过程类似于用一个模版去图像上寻找与它相似的区域，与卷积模式越相似，激活值越高，从而实现特征的提取。
深度学习基本模块：深度可分离卷积
最新发布
qq_34941290的博客
09-12 1532
深度学习基本模块：深度可分离卷积深度可分离卷积（Depthwise Separable Convolution）是现代轻量级神经网络架构的核心组件，它通过将标准卷积分解为两个独立步骤，显著降低了模型的参数量和计算复杂度。这种高效的设计使其成为移动端和嵌入式设备上部署深度学习模型的理想选择。一、深度可分离卷积介绍1.1 结构深度可分离卷积将标准卷积分解为两个独立的操作：深度卷积（Depthwise Convolution）：• 对每个输入通道单独应用一个卷积核• 输入输出通道数保持不变。
深度学习笔记----不同卷积类型的总结
YOULANSHENGMENG的博客
11-12 6161
1，标准卷积 卷积核上所有作用点依次作用于原始像素点后（即乘起来），线性叠加的输出结果，即是最终卷积的输出，也是我们想要的结果，我们称为destination（目标） pixel. 标准卷积的计算公式为： 标准卷积有多种卷积方法，可划分为三种：Same卷积、Valid卷积、Full卷积(反卷积)。 有个博文详细讲卷积，可以参考下： 卷积原理_abyss_miracle的博客-CSDN博客_卷积原理 1.1Same卷积 通过Padding填充0运算保证卷积...
『图解』深度可分离卷积
m0_60341379的博客
10-22 6158
深度可分离卷积其实是一种可分解卷积操作（factorized convolutions）。其可以分解为两个更小的操作：depthwise convolution 和 pointwise convolution。 深度卷积 与标准卷积网络不一样的是，这里会将卷积核拆分成单通道形式，在不改变输入特征图像的深度的情况下，对每一通道进行卷积操作，这样就得到了和输入特征图通道数一致的输出特征图。如上图，输入12123 的特征图，经过5513的深度卷积之后，得到了88*3的输出特征图。输入和输出的维度是不变
形象理解深度学习中八大类型卷积
weixin_42112050的博客
10-04 967
本文全文转载于此博客仅为了学习交流使用，如有侵权，请联系删除！ 本文总结了深度学习中常用的八大类型的卷积，以非常形象的方式帮助你建立直觉理解，为你的深度学习提供有益的参考。 分别是单通道卷积、多通道卷积、3D卷积、1 x 1卷积、转置卷积、扩张卷积、可分离卷积、分组卷积。 单通道卷积 在深度学习中，卷积是元素先乘法后加法。对于具有1个通道的图像，卷积如下图所示。这里的滤波器是一个3 x 3矩阵，元素为[[0,1,2]，[2,2,0]，[0,1,2]]。过滤器在输入端滑动。在每个位置，它都在进行元素乘法和加法
关于深度可分离卷积
qq_45670407的博客
04-07 1577
关于深度学习中的深度可分离卷积
深度可分离卷积简介
GHL_17768588743的博客
05-07 1217
深度可分离卷积（Depthwise Separable Convolution）是一种将标准卷积分解为两步操作的高效计算方式，旨在减少模型的参数量和计算量，同时保持特征提取能力。其核心思想是通过分离空间维度和通道维度的相关性，优化卷积过程。
深度可分离卷积及其代码实现
m0_55908255的博客
02-13 2013
而且这种运算对输入的每个通道独立进行卷积运算，没有有效的利用不同通道在相同空间位置上的特征信息。相同的输入，同样是得到输出通道数为4的feature map，深度可分离卷积的参数量和计算量是常规卷积的约。个卷积核（输出几个通道就要几个卷积核，这里输出4个通道所以需要4个卷积核），每个卷积核的shape是。为逐通道卷积输出特征图的通道数。所以这里的卷积运算会将逐通道卷积层输出的。的一个卷积核负责一个通道，一个通道只被一个卷积核卷积，这个过程产生的。与普通卷积非常相似，它的卷积核的尺寸为。
卷积核里面的参数怎么来的_深度可分离卷积（Depthwise separable convolution）
weixin_39669265的博客
11-30 1813
一、深度可分离卷积（Depthwise separable convolution）一些轻量级的网络，如mobilenet中，会有深度可分离卷积depthwise separable convolution，由depthwise(DW)和pointwise(PW)两个部分结合起来，用来提取特征feature map。相比常规的卷积操作，其参数数量和运算成本比较低。二、常规卷积操作对于5x5x3的输...
[深度学习] 深度可分离卷积
摩登都市天空---专栏
12-04 1万+
一 深度可分离卷积 深度可分离卷积之所以如此命名，是因为它不仅处理空间维度，还处理深度维度-通道的数量。通常输入图像可以有3个通道:RGB。经过几次卷积后，一个图像可能有多个通道。你可以把每个频道想象成那个图像的一个特殊解释；例如，“红色”通道解释每个像素的“红色”，“蓝色”通道解释每个像素的“蓝色”，“绿色”通道解释每个像素的“绿色”。一个有64个频道的图像有64种不同的解释。 深度可分离卷...
深度可分离卷积（DepthwiseSeparableConvolution）：Depthwise卷积与Pointwise卷积
xu.hyj
07-24 1万+
深度可分离卷积不用多说，在轻量级网络架构方面是一个绕不开的话题，只要接触深度学习多多少少会接触。深度可分离卷积即DepthwiseSeparableConvolution，该卷积将一个常规卷积过程划分成两个完成Depthwise卷积和Pointwise卷积，在保证输出一样时，计算量大大降低。首先来看，一个常规卷积是怎么实现的。其示意图如果我们从通道数变换的角度来看，卷积就是将3通道的tensor变为了4通道的tensor，我们来看看深度可分离卷积是怎么实现通道的变化的。...
深入浅出理解深度可分离卷积（Depthwise Separable Convolution）
热门推荐
IT菜鸟
11-02 11万+
深入浅出理解深度可分离卷积（Depthwise Separable Convolution）
组卷积和深度可分离卷积
Dear_learner的博客
09-30 637
图b表示深度卷积，图c表示分点卷积，两者合起来就是深度可分离卷积，深度卷积负责滤波，尺寸为Dk×Dk×1，共M个，作用在输入的每个通道上；第一张图是标准的卷积操作，若输入的特征图是H×W×c1，卷积核的尺寸为h1×w1×c1，输出特征图的尺寸为H×W×c2,那么标准卷积层的参数量为h1×w1×c1×c2。图a表示标准卷积，假设输入的特征图尺寸为Df×Df×M，卷积核尺寸为Dk×Dk×M，输出特征图的尺寸为Df×Df×N，标准卷积层的参数量为Dk×Dk×M×N。
深度可分离卷积_分组卷积(Group conv)与深度可分离卷积(Depthwise separable conv)
weixin_39633781的博客
11-28 479
写在前面今天有一个小小的idea,需要用到分组卷积,于是我翻开了notebook,发现之前对两种卷积的分析都太简单了,这次再复习竟不知道啥是啥,于是痛定思痛,决定以后把经典的东西,都仔仔细细地写在这里,供大家批评,鞭策自己进步！请注意题目顺序先分组卷积再深度可分离卷积,后面就知道为什么一定要按这样的顺序了。[一]分组卷积(Group conv)论文地址：https://arxiv.org/pdf/...
深入浅出之深度可分离卷积
浩瀚之水的专栏
09-26 9517
卷积核是一个小的矩阵（或张量），其大小通常是奇数（如3x3、5x5等），用于在输入特征图上进行滑动窗口操作。
深度学习中的可分离卷积详解
"这篇资源是关于可分离卷积的基础介绍，主要探讨了两种类型的可分离卷积：空间可分离卷积和深度可分离卷积。作者Chi-Feng Wang在2018年的文章中详细解释了这两种技术及其与普通卷积的区别。" 可分离卷积是深度学习...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值