【空洞卷积Atrous Convolution/膨胀卷积Dilated Convolution】

已于 2022-08-20 15:56:07 修改
阅读量312 收藏 1
点赞数 1
分类专栏： 深度学习基础知识 文章标签： 算法 深度学习 人工智能
于 2022-08-06 15:52:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41658139/article/details/126195625
版权

增加输出单元感受野的方法：

  1. 增加卷积核大小
  2. 增加层数：两层3x3卷积可以近似一层5x5卷积效果
  3. 在卷积之前进行池化操作。

前两种方式会增加参数量，第三种方式会丢失信息。

空洞卷积可以不增加参数数量，同时增加输出单元感受野。

空洞卷积通过在内核元素之间插入空格来“膨胀”内核。膨胀“率”由附加超参数d控制。实现方式可能会有所不同，但通常会存在d-1个空格插入在核元素之间，d=1对应于常规卷积。

空洞卷积用于在不增加核大小的情况下廉价地增加输出单元的感受野，这在多个膨胀卷积相继堆叠时尤其有效。 

为了理解膨胀率d和输出大小o之间的关系，考虑d对有效内核大小的影响是很有用的。大小为k的核被因子d放大后具有有效大小\hat{k}=k+(k-1)(d-1)。  

对于输入大小为i，卷积核大小为k，步长为s，0填充为p，膨胀率为d的卷积，输出大小为

o=\lfloor\frac{i+2p-\hat{k}}{s}\rfloor +1 \\ =\lfloor\frac{i+2p-k-(k-1)(d-1)}{s}\rfloor +1 \\ = \lfloor\frac{i+2p-d(k-1)-1}{s}\rfloor +1

参考：

GitHub - vdumoulin/conv_arithmetic: A technical report on convolution arithmetic in the context of deep learning

倔强一撮毛
关注
专栏目录
如何理解空洞卷积（dilated convolution）
cumtchw
07-21 642
1.空洞卷积概念 Dilated/Atrous Convolution(中文叫做空洞卷积或者膨胀卷积) 或者是 Convolution with holes 从字面上就很好理解，是在标准的 convolution map 里注入空洞，以此来增加 reception field。相比原来的正常convolution，dilated convolution 多了一个 hyper-parameter 称之为 dilation rate 指的是kernel的间隔数量(e.g. 正常的 convolution 是
空洞卷积/膨胀卷积
@bangbang的博客
05-02 1989
膨胀卷积(dilated convolution)又叫空洞卷积(Atrous convolution). 上图左边是一个普通的卷积，有边这幅就是我们要讲的膨胀卷积，与左边对比可以看出，同样都是采用3x3的kernel,但是我们在膨胀卷积中发现kenerl元素之间是存在间隙的。间隙我们在膨胀卷积中称为膨胀因子r。上图中r=2,表示记录的是每两个参数间的距离，当r=1，即元素之间相邻的话，它就是一个普通卷积了。 膨胀卷积的作用： 增大感受野 保持原输入特征图的W、H（通过padding的方式） 为什么要使
Tensorflow tf.nn.atrous_conv2d如何实现空洞卷积的
09-17
主要介绍了Tensorflow tf.nn.atrous_conv2d如何实现空洞卷积的，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
空洞卷积实现代码
HHsHH1234的博客
04-29 6225
经过几天的学习理论知识和实践，终于把unet跟空洞卷积结合了。 还没看过空洞卷积的请看下面链接 空洞卷积理论知识 代码 uent.py import numpy as np import os import skimage.io as io import skimage.transform as trans import numpy as np from tensorflow.keras.models import * from tensorflow.keras.layers import * from t
Tensorflow：空洞卷积（Atrous convolution) atrous_conv2d的代码实现
懒骨头707
03-28 5538
一、参考文献 https://blog.csdn.net/mao_xiao_feng/article/details/78003730 https://blog.csdn.net/davincil/article/details/80902366 二、概念 空洞卷积的基本概念则是扩大卷积核，例如下图（作图为标准卷积核，有图为空洞卷积核）： 这里使用...
pytorch代码验证空洞卷积
weixin_47289438的博客
02-05 3309
1.空洞卷积 注要内容如下： 空洞卷积理解 但是呢，对于这篇博客的部分内容我不赞同。 3x3的kernel设置dialted-rate=2时，理应变为"5x5"的kernel，多出来的空洞用0填充，这也是变相的增加了感受野。也就是说，设置dialted-rate>1时，会使得卷积的kernel变大。 2.代码验证 import numpy as np import torch import torch.nn as nn arr = np.array(range(1,26)) arr = arr.re
深度学习pytorch代码：dilation空洞卷积、最大池化
weixin_44575717的博客
04-08 3057
dilation=1，称为空洞卷积，在卷积核相邻像素之间插入一个空白像素。 默认池化核：kernel_size = 3 Ceil_model=True or False： 是否对非完整像素进行保留(默认为False) import torch import torchvision.datasets from mmcv import DataLoader from mmcv.cnn import MaxPool2d from torch import nn from torch.utils..
【深度学习】空洞卷积（Atrous Convolution）
热门推荐
晓峰博客笔记
04-09 5万+
优点：在不做pooling损失信息和相同的计算条件下的情况下，加大了感受野，让每个卷积输出都包含较大范围的信息。空洞卷积经常用在实时图像分割中。当网络层需要较大的感受野，但计算资源有限而无法提高卷积核数量或大小时，可以考虑空洞卷积。 空洞卷积（dilated convolution）是针对图像语义分割问题中下采样会降低图像分辨率、丢失信息而提出的一种卷积思路。利用添加空洞扩大感受野，让原本3x3...
膨胀卷积 / 空洞卷积（Dilated convolution）
weixin_44223170的博客
03-28 2273
视频学习链接：[https://www.bilibili.com/video/BV1Bf4y1g7j8] 1. 认识膨胀卷积 r 为间隙，r = 1 时，就是普通卷积 2. 为什么要使用空洞卷积 提出原因： （1）maxpooling层，会降低特征层的高度和宽度，同时会导致丢失细节信息以及较小目标，丢失的信息和目标无法通过上采样操作进行还原。 （2）如果将maxpooling层去掉，会导致得到的特征图所对应原图的感受野变小 此时选用膨胀卷积，能够： （1）增大感受野 （2）保持原输入特征图的高度和宽度 3
空洞卷积（扩张卷积dilated convolution）
橘露源的博客
11-15 3710
为什么用空洞卷积？ 普通的Deep CNN中普遍包含Up-sampling / pooling layer，导致 内部数据结构丢失；空间层级化信息丢失。 小物体信息无法重建 (假设有四个pooling layer 则任何小于 2^4 = 16 pixel 的物体信息在理论上将无法重建和分割。) 普通卷积过程如下： 在这样显著缺陷问题的存在下，语义分割问题一直处在瓶颈期无法再明显提高精度，...
PyTorch 普通卷积和空洞卷积实例
09-18
今天小编就为大家分享一篇PyTorch 普通卷积和空洞卷积实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
空洞卷积+残差网络.rar
11-16
博客见：https://blog.csdn.net/qq_37534947/article/details/109727232，主要是空洞卷积以及残差网络的代码实现，包含数据集，框架是pytorch
一文看懂膨胀（空洞）卷积（含代码）
我亦无他，唯手熟尔
12-20 9559
详细说明了膨胀卷积（空洞卷积）的背景，特点，特点解释，计算，优缺点，代码
#空洞卷积（Atrous Convolution） 原理解释+代码学习
m0_49629753的博客
12-02 3370
空洞卷积概念 空洞卷积（atrous convolutions）又名扩张卷积（dilated convolutions），向卷积层引入了一个称为 “扩张率(dilation rate)”的新参数，该参数定义了卷积核处理数据时各值的间距。 图a：3*3空洞为1的卷积，与普通卷积相同。 图b：3*3空洞为2的卷积，对于一个7x7的图像patch，只有9个红色的点和3x3的kernel发生卷积操作，其余的点略过。 图c：3*3空洞为3的卷积，能达到15x15的感受野。对比传统的c......
空洞卷积（Atrous Convolution）
天马行空的博客
07-06 562
优点：在不做pooling损失信息和相同的计算条件下的情况下，加大了感受野，让每个卷积输出都包含较大范围的信息。空洞卷积经常用在实时图像分割中。当网络层需要较大的感受野，但计算资源有限而无法提高卷积核数量或大小时，可以考虑空洞卷积。 空洞卷积（dilated convolution）是针对图像语义分割问题中下采样会降低图像分辨率、丢失信息而提出的一种卷积思路。利用添加空洞扩大感受野，让原本3x3的卷积核，在相同参数量和...
空洞卷积原理详解及其pytorch代码实现
m0_46378271的博客
10-05 1万+
空洞卷积及其pytorch实现
Pytorch之经典神经网络语义分割(3.1) —— 空洞卷积 Dilated conv/Atrous Conv (膨胀卷积/扩张卷积)(扩张率dilation rate) & pytorch实现
hxxjxw的博客
10-01 6198
使用Pascal VOC2012语义分割数据集 https://blog.csdn.net/qq_43280818/article/details/105916507
Dilated Convolutions 空洞卷积 pytorch版
嘿芝麻的树洞
12-14 1万+
from torch import nn import torch.nn.init as init def transform(): return Compose([ ToTensor(), # Normalize((12,12,12),std = (1,1,1)), ]) arr = range(1,26) arr = np.reshape(ar...
深度学习之 11 空洞卷积的实现
水w的博客
08-04 3825
空洞卷积的实现
Atrous Convolution空洞卷积
最新发布
03-29
Atrous Convolution，也叫做Dilated Convolution或者Spatially Atrous Convolution，是一种卷积神经网络中的操作，可以增加卷积核的感受野，从而在不增加参数数量的情况下提高网络的性能。 在传统的卷积操作中，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值