一句话描述深度可分离卷积、分组卷积、空洞卷积、反卷积

最新推荐文章于 2021-10-21 11:53:53 发布
最新推荐文章于 2021-10-21 11:53:53 发布
阅读量229 收藏
点赞数
文章标签： 深度学习 卷积 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37864755/article/details/105917383
版权

深度可分离卷积（(depthwise separable convolutions)）

把卷积变成两个步骤：

1. 先对通道进行1*1的卷积进行降维。

2. 在使用卷积核提取feature map。

实现效果：模型轻量化，例如5*5*3（长，宽，channel）的卷积核参数个数为（5*5*3）。深度可分离卷积的参数个数为（1*1*3+3*5*1）

分组卷积（Group Convolution）

把卷积变成两个步骤：

1. 先对输入的channel进行分为G组。

2. 保持卷积核个数不变，每组使用不同的卷积核卷积，参数减少为原来的1/G。看连线的数量比较直观。

Convolution VS Group Convolution

空洞卷积

卷积核中存在固定为0的权重。产生空洞，同时提高感受野。但是连续使用会导致信息丢失。空洞越大，丢失越多。

反卷积

 

反卷积是一种特殊的正向卷积，先按照一定的比例通过补0 来扩大输入图像的尺寸，接着旋转卷积核，再进行正向卷积。

本质上反卷积在数学含义上是可以还原输入信号的，但是转置卷积只能还原到原来输入的shape，其value值是不一样的。还是有区别。

https://www.zhihu.com/question/48279880

酷炫手撕包菜
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
深度可分离卷积+空洞卷积
weixin_45547419的博客
07-20 683
深度可分离卷积+空洞卷积
关于深度可分离卷积、空洞卷积、分组卷积的理解笔记
qq_53639093的博客
03-25 2027
深度可分离卷积(Depthwise separable convolution) 深度可分离卷积由逐通道卷积(Depthwise Convolution)和逐点卷积(Pointwise Convolution)两个过程组成 对于多通道输入得到多通道输出的过程，深度可分离卷积相比于常规卷积，具有更少的参数数量和更低的运算成本；不仅如此，深度可分离卷积将以往普通卷积操作同时考虑通道和区域改变，卷积先只考虑区域，然后再考虑通道。实现了通道和区域间的分离 逐通道卷积(Depthwise Convolution) 第
一文看懂深度可分离卷积(depthwise separable convolutions)
会飞的猪的博客
05-29 1万+
https://www.jianshu.com/p/38dc74d12fcf?utm_source=oschina-app
扩展卷积详解 - 组卷积, 深度可分离卷积, 空洞卷积
Right here, Code is Magic
02-23 3036
文章目录零. Standard Convolution - 标准卷积一. Group Convolution - 组卷积二. Depth Separable Convolution - 深度可分离卷积三. Dilated Convoluton - 扩张卷积四. 参考 在标准卷积的基础上介绍组卷积, 深度可分离卷积, 空洞卷积. 零. Standard Convolution - 标准卷积 标准卷积运算是这样地: 对于输入特征为 C∗H∗WC*H*WC∗H∗W, 卷积核大小为 K∗KK*KK∗K, 共 N
对深度可分离卷积、分组卷积、空洞卷积的通俗理解(上篇)
MIss-Y的博客
02-14 3090
python进阶教程机器学习深度学习长按二维码关注进入正文对深度可分离卷积、分组卷积、空洞卷积的通俗理解声明：卷积神经网络经过这些年的发展已经非常成熟，有着非常繁多的网络...
基于深度可分离卷积网络的皮肤镜图像病灶分割方法
01-20
针对皮肤镜图像病灶难定位、病灶精准分割难以实现的问题，提出一种基于深度可分离卷积网络的皮肤镜图像病灶分割方法。首先对皮肤镜图像进行黑框移除和毛发移除处理，将图像中有碍确定病灶位置的人工噪声、天然噪声...
可分离卷积基本介绍
04-11
可分离卷积基本介绍，A Basic Introduction to Separable Convolutions。
深度可分离卷积网络的理论与实战（TF2.0）
12-20
深度可分离卷积网络（Depthwise Separable Convolutional Neural Networks）是一种在计算机视觉领域广泛应用的卷积神经网络（CNN）优化技术。这种技术源于普通卷积操作，但通过分解卷积过程，大大降低了计算复杂度和...
TensorFlow2.0(十)–实现深度可分离卷积神经网络
12-21
深度可分离卷积神经网络（Depthwise Separable Convolutional Neural Network，DSConv）是一种旨在减少计算复杂性和模型参数数量的卷积网络结构。相比于传统的卷积层，它通过两个步骤来实现卷积操作：深度卷积...
卷积-转置卷积-空洞卷积-深度可分离卷积-分组卷积-可变形卷积
studyeboy的专栏
06-22 2244
A guide to convolution arithmetic for deep learning conv_arithmetic 卷积，空洞卷积、可分离卷积
Dilated Convolution （空洞卷积或扩张卷积）
gwpscut的博客
05-18 1万+
之前博文已经对空洞卷积做了介绍，本文进行深入介绍《各种卷积层的理解（深度可分离卷积、分组卷积、扩张卷积、反卷积）》 诞生背景，在图像分割领域，图像输入到CNN（典型的网络比如FCN[3]）中，FCN先像传统的CNN那样对图像做卷积再pooling，降低图像尺寸的同时增大感受野，但是由于图像分割预测是pixel-wise的输出，所以要将pooling后较小的图像尺寸upsampling到原始...
机器学习——概念理解之卷积、空洞卷积、深度卷积、逐点卷积、空间可分离卷积、深度可分离卷积
itlilyer的博客
08-29 1万+
本文主要介绍常见的几种卷积的概念和计算方法，主要包括：卷积、空洞卷积、深度卷积、逐点卷积、空间可分离卷积、深度可分离卷积。 卷积（convolution） 讨论卷积之前先介绍一下相关的概念： 卷积核 卷积核(convolution kernel)：也叫滤波器(Filter)，就是一个nxn的矩阵，矩阵的成员就是我们要训练的权重值，整个图片使用一个卷积核这也就实现了共享权重。卷积核的值不需要提前设计，只需要初始化，然后通过训练进行优化，这也就是模型训练要做的事情。 padding填充 为了避免一些边界上的值在
深度可分离卷积、空洞卷积、反卷积、感受野计算、上采样
stdleohao的博客
10-21 2098
Depthwise卷积和Pointwise运算成本比较低 [1] https://zhuanlan.zhihu.com/p/92134485
【通俗易懂系列】深度可分离卷积
小麦草的博客
06-15 1万+
在计算资源受限制的移动端设备上，常规的卷积操作由于运算量大，经常难以满足实际运行速度的要求，这时，深度可分离卷积（Depthwise Separable Convolution）就排上了用场。深度可分离卷积是由Depthwise(DW)卷积与Pointwise(PW)卷积组成。该结构和常规卷积类似，可用来提取特征，但相比常规卷积，其参数量和运算成本较低。所以在一些轻量级网络中经常会用到此类结构，如MobileNet，ShuffleNet等。 常规卷积 对于一幅128×128像素、三通道彩色输入图像（尺寸为
【扩张卷积or空洞卷积】如何理解Dilated Convolutions(空洞卷积)
华仔的博客
07-23 7625
文章来源：https://blog.csdn.net/alxe_made/article/details/88594550 1. 扩张卷积的提出 Multi-Scale Context Aggregation by Dilated Convolutions Dilated Residual Networks 论文笔记——CVPR 2017 Dilated Residual Netwo...
对深度可分离卷积、分组卷积、空洞卷积、转置卷积的理解
YQMind的博客
10-09 4956
参考： https://blog.csdn.net/chaolei3/article/details/79374563 https://blog.csdn.net/jiachen0212/article/details/78548667 https://blog.csdn.net/u014722627/article/details/60574260 https://blog.csdn.net/L...
tf.nn.atrous_conv2d如何实现空洞卷积与深度可分离卷积？
weixin_42702666的博客
03-07 620
1.实现空洞卷积的函数 tf.nn.atrous_conv2d(value,filters,rate,padding,name=None） 除去name参数用以指定该操作的name，与方法有关的一共四个参数： value： 指需要做卷积的输入图像，要求是一个4维Tensor，具有[batch, height, width, channels]这样的shape，具体含义是[训练时一个bat...
对深度可分离卷积、分组卷积、扩张卷积、转置卷积（反卷积）的理解
热门推荐
Chaolei3的博客
02-26 3万+
参考： https://zhuanlan.zhihu.com/p/28749411 https://zhuanlan.zhihu.com/p/28186857 https://blog.yani.io/filter-group-tutorial/ https://www.zhihu.com/question/54149221 http://blog.csdn.net/guvcolie/a...
分组卷积，深度可分离卷积
最新发布
08-12
分组卷积和深度可分离卷积是两种常用的卷积操作方法。 分组卷积（grouped convolution）是将输入的通道分成多个组，每个组内的通道进行独立的卷积操作，然后将各组的结果进行拼接。这种方法可以减少计算量和参数量...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值