膨胀卷积 / 空洞卷积（Dilated convolution）

已于 2022-03-28 23:06:39 修改
阅读量2.1k 收藏 4
点赞数
文章标签： python 深度学习
于 2022-03-28 23:05:54 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44223170/article/details/123804224
版权

视频学习链接：[https://www.bilibili.com/video/BV1Bf4y1g7j8]

1. 认识膨胀卷积

在这里插入图片描述
r 为间隙，r = 1 时，就是普通卷积

2. 为什么要使用空洞卷积

提出原因：
（1）maxpooling层，会降低特征层的高度和宽度，同时会导致丢失细节信息以及较小目标，丢失的信息和目标无法通过上采样操作进行还原。
（2）如果将maxpooling层去掉，会导致得到的特征图所对应原图的感受野变小
此时选用膨胀卷积，能够：
（1）增大感受野
（2）保持原输入特征图的高度和宽度

3. gridding effect 问题

（1）方法一 ---- 都使用膨胀率 r = 2

最低0.47元/天 解锁文章
倾心丶Xin
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
空洞卷积（扩张卷积dilated convolution）
橘露源的博客
11-15 3637
为什么用空洞卷积？ 普通的Deep CNN中普遍包含Up-sampling / pooling layer，导致 内部数据结构丢失；空间层级化信息丢失。 小物体信息无法重建 (假设有四个pooling layer 则任何小于 2^4 = 16 pixel 的物体信息在理论上将无法重建和分割。) 普通卷积过程如下： 在这样显著缺陷问题的存在下，语义分割问题一直处在瓶颈期无法再明显提高精度，...
空洞卷积为何有用及弊端
01-07
空洞卷积能够在不减小感受野的情况下降低空间特征的损失，可以获取long-ranged information。但是也有弊端：比如空间上的连续所能给出的信息可能因此而丢失(比如边缘之类的)，同时对于小物体的分割未必有利。同时，当空洞卷积的rate调得很大时，比如rate和feature map大小一致时，3×3卷积会退化成1×1卷积。为了解决这些问题，图森提出了称为HDC（Hybrid Dilated Convolution)的结构 作者：小伟db
Dilated Convolution （空洞卷积或扩张卷积）
gwpscut的博客
05-18 1万+
之前博文已经对空洞卷积做了介绍，本文进行深入介绍《各种卷积层的理解（深度可分离卷积、分组卷积、扩张卷积、反卷积）》 诞生背景，在图像分割领域，图像输入到CNN（典型的网络比如FCN[3]）中，FCN先像传统的CNN那样对图像做卷积再pooling，降低图像尺寸的同时增大感受野，但是由于图像分割预测是pixel-wise的输出，所以要将pooling后较小的图像尺寸upsampling到原始...
深度探索：机器学习中的空洞卷积（Atrous Convolution）算法原理及其应用
最新发布
qq_51320133的博客
04-24 1197
空洞卷积作为一种有效的卷积操作变体，凭借其扩大感受野、保持空间分辨率及参数效率等优点，已在图像识别、语义分割、目标检测等多个领域展现出强大的应用潜力。尽管存在计算复杂度增加、对小物体敏感性下降等问题，但通过合理设置空洞率、结合其他先进组件（如残差连接、注意力机制等），以及硬件加速技术的发展，空洞卷积有望在未来的机器学习研究与应用中发挥更大作用。随着深度学习技术的持续演进，我们期待看到更多基于空洞卷积的创新模型和应用，进一步推动计算机视觉乃至整个机器学习领域的进步。
膨胀卷积（Dilated convolution）
热门推荐
满腹的小不甘
11-18 4万+
Dilated conv，中文叫做空洞卷积或者扩张卷积，起源于语义分割，大部分文章也用于语义分割，具体能否对其他应用有价值姑且还不知道，但确实是一个不错的探究方向。 感受野（receptive field）：CNN中，某一层输出结果中一个元素所对应的输入层的区域大小，感受野是卷积核在图像上看到的大小，例如3×3卷积核的感受野大小为9。越大的感受野包含越多的上下文关系。 膨胀卷积与普通的卷积相比...
深入浅出理解空洞卷积/膨胀卷积/扩张卷积(Dilated/Atrous Convolution)
IT菜鸟
01-08 2319
深入浅出理解空洞卷积/膨胀卷积/扩张卷积(Dilated/Atrous Convolution)
机器学习实战(第二版)读书笔记(3)——膨胀卷积，WaveNet
qq_42018521的博客
01-28 1228
对于一个卷积层，如果希望增加输出单元的感受野近似其中第1种和第2种方法会引入参数，第三种会丢失信息。膨胀卷积是一种不增加参数数量，同时增加输出单元感受野的一种方法。空洞卷积通过给卷积核插入“空洞”来变相地增加其大小（跳过部分）．如果在卷积核的每两个元素之间插入𝐷 − 1 个空洞，卷积核的有效大小为𝐾′ = 𝐾 + (𝐾 − 1) × (𝐷 − 1)，其中𝐷 称为膨胀率（Dilation Rate）．当𝐷 = 1 时卷积核为普通的卷积核．。
Dilated Convolutions
pku_Coder的博客
09-19 1154
1. 扩张卷积 Dilated Convolutions，翻译为扩张卷积或空洞卷积。扩张卷积与普通的卷积相比，除了卷积核的大小以外，还有一个扩张率(dilation rate)参数，主要用来表示扩张的大小。扩张卷积与普通卷积的相同点在于，卷积核的大小是一样的，在神经网络中即参数数量不变，区别在于扩张卷积具有更大的感受野。感受野是卷积核在图像上看到的大小，或者说卷积后的图像上，一个像素点对应着原图中...
空洞卷积（膨胀卷积）的空洞率的计算 atrous(dilation)
计算机视觉
02-19 7081
转载自https://blog.csdn.net/chen1234520nnn/article/details/102516704?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522161374273016780265467722%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=16137427301678026546.
PyTorch 普通卷积和空洞卷积实例
09-18
空洞卷积（Dilated Convolution），又称为扩张卷积或 atrous convolution，通过在滤波器中引入空洞（gaps），扩大了滤波器的感受野，使得网络可以捕获更大范围的信息，而不增加参数数量。在上述代码中，`nn.Conv2d(1...
空洞卷积+残差网络.rar
11-16
空洞卷积（Dilated Convolution）和残差网络（Residual Network）是深度学习领域中的两种重要技术，尤其在图像处理和计算机视觉任务中应用广泛。这两种技术都是为了解决深度神经网络在增加层数时面临的梯度消失、过...
Dilated Convolution和普通感受野计算的python实现
01-06
感受野的计算公式如下：  ...其实Dilated/Atrous Convolution理解起来很简单多孔卷积，仅仅是为了增加感受野，参数不变 当dilation = 1时就和普通卷积一样 如果使用了dilation卷积相当于变大了，如下图所
基于膨胀卷积神经网络（Dilated Convolutions）训练好的医疗命名实体识别工具.zip
02-17
【项目资源】： 包含前端、后端、移动开发、操作系统、人工智能、物联网、信息化管理、数据库、硬件开发、大数据、课程资源、音视频、网站开发等各种技术项目的源码。 ... 【项目质量】： 所有源码都经过严格测试，...
空洞卷积（扩张卷积，带孔卷积，atrous convolution）的一些总结与理解
lipengfei0427的博客
10-08 5859
空洞卷积（扩张卷积，带孔卷积，atrous convolution）是一种区别于普通卷积的卷积方式，从字面理解，就是卷积层中有洞。 1.一维理解 以一维为例： 图中(a)Input feature表示输入特征，Output feature表示输出特征，这是一个正常的kernel = 3; stride = 1; pad = 1的卷积操作。 图中(b)下面为Input feature，上面为Output feature，与图(a)不同的是pad = 2，同时引入了一个rate = 2，这个rate
膨胀卷积操作
william_hehe的博客
11-09 2054
前言： 膨胀卷积操作是指将卷积核扩张到指定尺寸，并将原卷积核中没有占用的区域用零填充（如下图所示）。 膨胀卷积计算公式： 膨胀的卷积核尺寸 = 膨胀系数*（原始卷积核尺寸-1）+1 代码实现： import tensorflow as tf import tensorflow.contrib.slim as slim def conv_bn_relu(x,out_channel,...
Dilated Convolutions——扩张卷积
SnailTyan
12-07 1万+
Dilated Convolutions——扩张卷积
[扩张卷积or空洞卷积] 如何理解Dilated Convolutions(空洞卷积)
小铅笔
05-08 650
文章来源：https://blog.csdn.net/alxe_made/article/details/88594550 1. 扩张卷积的提出 Multi-Scale Context Aggregation by Dilated Convolutions Dilated Residual Networks 论文笔记——CVPR 2017 Dilated Residual Networks 在图像分割领域，图像输入到CNN（典型的网络比如FCN）中，FCN先像传统的CNN那样对图像做卷积再po.
谈谈膨胀卷积
how many roads a model must walk down, before they call him a service
06-26 9109
膨胀卷积（空洞卷积、Dilation Convolution/Atrous Convolution）的本质是为了1.避免下采样而减少feature map的信息2.感受野又不变如图，（c）为膨胀卷积，考虑亮黄色的神经元，视野为1-5，在（b）的情况中，需要再加一层，才有一个神经元的视野有1-5的情况，但这样参数就变成了好几倍了。caffe中的膨胀系数dilation可以理解为对    原始卷积尺寸...
膨胀卷积和空洞卷积有什么区别？
03-05
膨胀卷积（Dilated Convolution）和空洞卷积（Atrous Convolution）是卷积神经网络中常用的两种卷积操作，它们在卷积核与输入特征图之间的采样方式上有所不同。 膨胀卷积是通过在卷积核中插入空洞（间隔）来改变采样方式的。在传统的卷积操作中，卷积核的每个元素都与输入特征图中的相应位置进行相乘并求和，而膨胀卷积则通过在卷积核元素之间插入一定数量的零值来实现。这样一来，膨胀卷积可以在保持感受野大小不变的情况下，增加卷积核的有效感受野，从而扩大了卷积操作的感受野范围。 空洞卷积是通过在卷积核中引入空洞（孔）来改变采样方式的。传统的卷积操作中，卷积核的每个元素都与输入特征图中的相应位置进行相乘并求和，而空洞卷积则是在卷积核元素之间引入一定数量的空洞，使得卷积核只与输入特征图中的部分位置进行相乘并求和。这样一来，空洞卷积可以在保持感受野大小不变的情况下，增加卷积核的有效感受野，从而扩大了卷积操作的感受野范围。 总结起来，膨胀卷积和空洞卷积都是通过改变卷积核与输入特征图之间的采样方式来扩大卷积操作的感受野范围。它们的区别在于膨胀卷积是通过在卷积核中插入空洞来实现，而空洞卷积是通过在卷积核中引入空洞来实现。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值