深度可分离卷积与传统卷积的区别

最新推荐文章于 2025-03-19 15:53:31 发布
最新推荐文章于 2025-03-19 15:53:31 发布
阅读量4.8k 收藏 17
点赞数 3
分类专栏： 深度学习各项知识整理 文章标签： 深度学习 cnn 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/slamer111/article/details/126751388
版权
深度可分离卷积是轻量化网络如Mobilenet中的关键组件，它通过逐通道卷积和逐点卷积降低参数量和计算量，相比传统卷积，其资源消耗仅为约三分之一。这种技术对于移动设备上的高效深度学习模型至关重要。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、深度可分离卷积的概念

主要应用在一些轻量化网络里，如mobilenet，它由两部分组成，depthwise(逐通道卷积)和pointwise(逐点卷积)。它相对于传统卷积的优点是：参数量和运算量都相对较低。

二、传统卷积的参数量和计算量计算

参数量：卷积核W*卷积核H*输入通道数*输出通道数

计算量：卷积核W*卷积核H*(图片W-卷积核W+2P+1)*(图片H-卷积核H+2P+1)*输入通道数*输出通道数

三、深度可分离卷积的参数量和计算量计算

 

 

逐通道卷积参数量：卷积核W*卷积核H*输入通道数

逐通道卷积计算量：卷积核W*卷积核H*(图片W-卷积核W+2P+1)*(图片H-卷积核H+2P+1)*输入通道数

逐点卷积参数量：1*1*输入通道数*输出通道数

逐点卷积计算量：1*1*(特征层W)*(特征层H)*输入通道数*输出通道数

四、对比和Reference

深度可分离卷积的参数量和计算量大致是传统的三分之一。

深度可分离卷积（Depthwise seperable convolution）_冰雪棋书的博客-CSDN博客_深度可分离卷积

【深度学习基础】普通卷积和深度可分离卷积有哪些联系和区别？深度可分离卷积一般都有哪些应用呢？
985小水博的摸鱼日常
12-22 876
【深度学习基础】普通卷积和深度可分离卷积有哪些联系和区别？深度可分离卷积一般都有哪些应用呢？
一篇文章给你讲清楚正常卷积与深度可分离卷积
sdhdsf132452的博客
03-26 1637
就是用卷积核大小为1的卷积核，做正常卷积，此时卷积核个数为输出通道数，即4。很明显，这么一个简单的卷积，就减少了一半多的参数，所以会很快。还是上面的例子，由于输入通道为。
深度学习CV方向学习笔记6 —— 深度可分离卷积
qq_33909645的博客
10-14 1629
个人学习神经网络相关知识的学习记录，本帖记录的是关于深度可分离卷积的知识，包含了其算法过程、分析参数计算量以及其运行效率分析等。 学习资料来源于各博主的帖子、知乎、b站等，在个人理解的基础上加以总结，可能存在理解有误之处，欢迎指正！
深度可分离卷积vs标准卷积
weixin_44762713的博客
12-20 1545
本文只比较深度可分离卷积与标准卷积的参数量、运算量、时间，模型性能请看Mobilenet系列论文。 1. Model 深度可分离卷积 import torch import torch.nn as nn import torch.nn.functional as F import time from torchstat import stat class Depthpoint_conv(nn.Module): def __init__(self, C_in, C_out, kernel_si
深度可分离卷积
最新发布
qq_45560461的博客
03-19 630
通过替换或插入深度可分离卷积模块，可以在保持模型性能的前提下显著降低计算成本。参考实现可借鉴MobileNet系列网络设计，进一步优化模型效率。
普通卷积与深度可分离卷积的区别
热门推荐
m0_37799466的博客
05-11 1万+
1、普通卷积的卷积方式 原始图像是二维的，大小是12x12。由于是RGB格式的，所以有三个通道，这相当于是一个3维的图片。其输入图片格式是：12x12x3。滤波器窗口大小是5x5x3。这样的话，得到的输出图像大小是8x8x1（padding模式是valid）。 对于一张12×12像素、三通道（shape为12×12×3）的图像，经过5×5卷积核的卷积层，卷积核的通道应该和输入图像的通道数相同，其卷积核个数决定了最后的输出特征图个数，就是输出通道；假设输出通道数为1，则卷积核shape为3×5×5×1，最终
深度可分离卷积和普通卷积的本质区别
weixin_44003026的博客
06-21 2993
深度可分离卷积和普通卷积的本质区别 转载 原本的卷积与深度可分离卷积区别： 原本的卷积是各个通道上采用相同的卷积核，然后不同的卷积核用于提取不同方面的特征。 深度可分离卷积先在各个通道上采用不同的卷积核提取不同的特征，但是这样对于某个通道来说，就只提取了一方面的特征，因此在此基础上加入点卷积，用1*1的卷积对提取特征后的特征图再次提取不同方面的特征，最终产生和普通卷积相同的输出特征图。 好处是这样做大大节约了参数量。 ...
深度可分离卷积神经网络与普通卷积网络的区别
weixin_42206101的博客
11-17 2085
深度可分离卷积神经网络与普通卷积神经网络的区别 深度可分离卷积的方法有所不同。正常卷积核是对3个通道同时做卷积。也就是说，3个通道，在一次卷积后，输出一个数。 深度可分离卷积分为两步： 第一步先用三个卷积对三个通道分别做卷积，这样在一次卷积后，输出3个数。 第二部用这输出的三个数，再通过一个1x1x3的卷积核，得到一个数。 可以清楚的看出深度可分离与普通卷积神经网络的区别，就是添加了一个1*1的卷积核。 如果仅仅是提取一个属性，深度可分离卷积的方法，不如正常卷积。随着要提取的属性越来越多，深度可分离卷积就能
深度可分离卷积网络的理论与实战（TF2.0）
12-20
深度可分离卷积网络（Depthwise Separable Convolutional Neural Networks）是一种在计算机视觉领域广泛应用的卷积神经网络（CNN）优化技术。这种技术源于普通卷积操作，但通过分解卷积过程，大大降低了计算复杂度和...
TensorFlow2.0(十)–实现深度可分离卷积神经网络
12-21
1.1 深度可分离卷积网络与普通卷积网络的比较： 普通卷积层中，一个卷积核会同时处理所有输入通道的信息，生成一个输出通道。而深度可分离卷积则将这一过程分为两个阶段：首先，深度卷积针对每个输入通道独立地执行...
深度可分离卷积在卷积神经网络中的作用
teach2004的博客
01-09 718
1. 减少参数量和计算量：深度可分离卷积通过将传统的卷积操作分解为深度卷积（Depthwise Convolution）和逐点卷积（Pointwise Convolution）两个步骤，显著减少了模型的参数量和计算量。在深度卷积中，每个输入通道独立地应用一个卷积核，而在逐点卷积中，使用1x1的卷积核在通道维度上进行线性组合，从而减少参数和计算复杂度。深度可分离卷积：深度卷积中，每个输入通道独立地应用一个卷积核，逐点卷积中，1x1的卷积核在通道维度上进行线性组合。
普通卷积与深度可分离卷积
Dandelion_2的博客
07-15 4855
一些轻量级的网络，如mobilenet中，会有深度可分离卷积depthwise separable convolution，由depthwise(DW)和pointwise(PW)两个部分结合起来，用来提取特征feature map 相比常规的卷积操作，其参数数量和运算成本比较低 常规卷积操作 对于一张5×5像素、三通道（shape为5×5×3），经过3×3卷积核的卷积层（假设输出通道数为4，则卷积核shape为3×3×3×4，最终输出4个Feature Map，如果有same padding则尺寸与输入层
深入浅出之深度可分离卷积
浩瀚之水的专栏
09-26 6737
卷积核是一个小的矩阵（或张量），其大小通常是奇数（如3x3、5x5等），用于在输入特征图上进行滑动窗口操作。
理解深度可分离卷积
wynn的博客
05-26 1792
深度可分离卷积其实只对常规卷积做了一个很小的改动，但是带来的确实参数量的下降，这无疑为网络的轻量化带来了好处。
深度可分离卷积原理介绍
weixin_60388478的博客
05-09 708
深度可分离卷积原理介绍以及与普通卷积的区别
深度可分离卷积（参数量与计算量）VS普通卷积（参数量与计算量）
wilbur520的博客
07-27 1798
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Ma.
深度可分离卷积的参数量计算
02-26
### 如何计算深度可分离卷积的参数量 对于传统的卷积操作，假设输入通道数为 \(C_{in}\)，输出通道数为 \(C_{out}\)，卷积核大小为 \(k \times k\)，那么该层的参数总数可以表示为： \[ C_{in} \cdot C_{out} \cdot k^2 + C_{out} \] 其中额外加上的 \(C_{out}\) 表示偏置项的数量。 然而，在深度可分离卷积中，这一过程被分解成了两个独立的操作：Depthwise Convolution 和 Pointwise Convolution。具体来说， - **Depthwise Convolution** 对每个输入通道单独应用一个 \(k \times k\) 的滤波器[^3]。因此这部分的参数数量等于输入通道数目乘以单个滤波器内的权重数加上对应的偏置（如果存在），即: \[ C_{in} \cdot (k^2 + 1)\] 这里假定有偏置项。 - **Pointwise Convolution** 则是一个 \(1 \times 1\) 的卷积用于调整特征图之间的联系强度并改变通道维度至期望值 \(C_{out}\)[^4]。所以其参数计数为: \[ C_{in} \cdot C_{out} + C_{out}\] 综上所述，整个深度可分离卷积层的总参数量可以通过上述两项相加以得出: \[ Total\ Parameters = Depthwise\ Params + Pointwise\ Params \] \[= C_{in}(k^2+1)+C_{in} \cdot C_{out} + C_{out}\] 值得注意的是，通过这种方式减少了许多不必要的跨通道交互路径，从而大大降低了模型复杂度和所需资源消耗，使得像 MobileNet 这样的架构能够在移动平台上高效运行[^4]。 ```python def calculate_depth_separable_conv_params(cin, cout, kernel_size): """ 计算深度可分卷积的参数总量 参数: cin -- 输入通道数 cout -- 输出通道数 kernel_size -- 卷积核尺寸 返回: total_params -- 总参数量 """ depthwise_params = cin * ((kernel_size ** 2) + 1) pointwise_params = cin * cout + cout total_params = depthwise_params + pointwise_params return total_params # 示例调用 print(calculate_depth_separable_conv_params(32, 64, 3)) ```
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CVplayer111

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值