论文阅读：Dilated Convolutions with Lateral Inhibitions for Semantic Image Segmentation

最新推荐文章于 2022-09-07 15:32:30 发布
最新推荐文章于 2022-09-07 15:32:30 发布
阅读量1.7k 收藏 1
点赞数 2
分类专栏： 论文阅读 文章标签： 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36224225/article/details/107006822
版权

在这里插入图片描述

CVPR 2020.6.5

原文链接：点击跳转

文章目录

用于语义分割的带侧抑制的空洞卷积

摘要

在这里插入图片描述
空洞卷积可以扩大感受野，不增加而外权重和牺牲空间像素。但是空洞卷积在语义意义轮廓上关于像素的位置知识不能掌握，这可能会导致对象边界的模糊预测。

作者受LI（侧抑制）机制，提出了LI-Convs来克服这些问题。将LI-Convs整合到Deeplab3+结构中，提出了LI-ASPP和LI-MNV2结构。

论文出发点

语义分割是靠边界将不同对象分开，所以边界的像素具有较强的语义信息。然而在空洞卷积中该像素的重要性没有被明确强调，因此这种位置重要性是被隐含地学习，这可能会导致边界标签模棱两可且具有误导性。一些方法已在该方面做出改进，但是仍有提升空间。

虽然空洞卷积可以扩大感受野，但采样像素总数不变。这种稀疏采样某种程度上会削弱语义分割等密集预测任务的潜力。

侧抑制（Lateral Inhibition）是一种神经生物学现象，相近的神经元彼此之间发生的抑制作用，即在某个神经元受到刺激而产生兴奋时，再刺激相近的神经元，则后者所发生的兴奋对前者产生的抑制作用。该机制导致人们视网膜细胞对空间变化的刺激(如物体之间的语义边界)非常敏感。

研究发现LI可以提升神经网络的鲁棒性和效率，但是这些网络结构太浅，对于最新的深层网络结构如MobileNet、ResNet没有效果。LI虽然被引入语义分割，但是前人的工作没有评估LI在语义分割方面的潜力，而他们整合LI的方法并没有触及深层CNN的核心机制，如卷积运算。

Dilated Convolutions with Lateral Inhibitions

Definition

在这里插入图片描述
Eq.1定义了一个常规的卷积操作，Eq.2是Eq.1的一个扩展，其中引入了LI项。

L(u，n)代表侧抑制强度，Eq.2可以理解为G(n)特征值减去被抑制的数值，剩余未被抑制的特征值与F(m)做卷积操作。

Eq.3是更泛化的式子，引入了膨胀率e，表示抑制空间的膨胀大小（类似空洞卷积的膨胀），具体请结合Figure.1理解。

在这里插入图片描述
Eq.4给出了具体的侧抑制强度表达式，

最低0.47元/天 解锁文章
CccMing、、、
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
dilated_conv
DL_CreepingBird的博客
11-20 589
空洞卷积（dilated convolution） 为什么要引入step？个人理解是因为图像像素是连续变化的，如果只取四领域进行计算，那么计算出来的对比度很小。也就是说提取出来的特征不那么明显，也就是说没有充分利用图像信息。  简单讨论下dilated conv，中文可以叫做空洞卷积或者扩张卷积。首先介绍一下dilated conv诞生背景[4]，再解释dilated conv操作本身，以
中文NER2 之 Fast and Accurate Entity Recognition with Iterated Dilated Convolutions
weixin_49379140的博客
08-03 458
中文NER2 之 Fast and Accurate Entity Recognition with Iterated Dilated Convolutions提升速度：学习内容：学习时间：学习产出： 提升速度： 传统的Bi-LSTM加CRF的方式，虽然取得了很好的NER结果，但是无法很好的利用GPU的并行处理能力。 所以这篇文章提出了ID-CNNs。不像LSTM处理长度N的字符串，需要时间O(N),ID-CNNs能够提供一个固定深度的卷积去并行计算整个文本。最后的效果，相比于bi-lstm-crf， 是1
论文《Fast and Accurate Entity Recognition with Iterated Dilated Convolutions》
XB_please的博客
06-16 1795
论文地址：Fast and Accurate Entity Recognition with Iterated Dilated Convolutions 对于序列标注问题，普通的CNN有一个劣势：卷积之后，末层神经元可能只是得到了原始输入数据中一小块的信息。而对于命名实体识别，整个句子的每个字对当前需要标注的字产生影响。为了覆盖更多的信息，加入更多的卷积层，这样会导致层数越来越深，参数越来越多，为防止过拟合要加入更多的Dropout之类的正则化，带来更多的超参数，整个模型变得庞大和难以训练。 BiLSTM之
图像分割--Dilated Convolutions（扩张卷积）
zk_ken的博客
05-25 4261
参考资料：https://blog.csdn.net/zizi7/article/details/77369945                  https://blog.csdn.net/Quincuntial/article/details/78743033以FCN和SegNet 为代表的图像分割方法与传统的 CNN 一样，先对图像做卷积再做池化。其中池化的意义一方面是降低计算量，另一方面...
命名实体识别_用膨胀卷积进行命名实体识别 NER
weixin_39778400的博客
12-06 202
BiLSTM+CRF 是命名实体识别中最为流行的模型，但是 LSTM 需要按顺序处理输入的序列，速度比较慢。而采用 CNN 可以更高效的处理输入序列，本文介绍一种使用膨胀卷积进行命名实体识别的方法 IDCNN，通过膨胀卷积可以使模型接收更长的上下文信息。1.膨胀卷积膨胀卷积 (Dilated Convolution) 是指卷积核中存在空洞，下图展示了膨胀卷积和传统卷积的区别。之前的文章《膨胀卷积 ...
论文研究-Image Semantic Segmentation using Deep Convolutional Nets, Fully Connected Conditional Random Fields, and Dilated Convolution.pdf
08-14
使用深度卷积网络，全连接条件随机场和扩张卷积的图像语义分割，肖德贵，钟沛，深度卷积神经网络(DCNN)最近在高级视觉任务中展示了最先进的性能，例如图像分类和物体检测。这项工作的重点是是解决图像语义分割任
Rethinking-Atrous-Convolution-for-Semantic-Image-Segmentation-1.zip
01-20
而空洞卷积通过在滤波器内部引入“空洞”（dilated rate），即增大滤波器步长，使得滤波器能够覆盖更大的区域，从而在不增加参数数量的情况下，获取更广阔的视野。 在DeepLabv1中，研究人员首次引入空洞卷积来解决...
Multi-Scale Context Aggregation by Dilated Convolutions.zip
03-15
《多尺度上下文聚合通过膨胀卷积》是深度学习领域一篇重要的研究论文，主要探讨了如何在卷积神经网络（CNN）中有效地捕获不同尺度的上下文信息，以提高模型对图像的理解能力。膨胀卷积（Dilated Convolution）是解决...
cda_semantic_segmentation
02-14
@inproceedings{wu2019fastfcn, title = {FastFCN: Rethinking Dilated Convolution in the Backbone for Semantic Segmentation}, author = {Wu, Huikai and Zhang, Junge and Huang, Kaiqi and Liang, Kongming ...
基于膨胀卷积神经网络（Dilated Convolutions）训练好的医疗命名实体识别工具.zip
最新发布
05-18
基于膨胀卷积神经网络（Dilated Convolutions）训练好的医疗命名实体识别工具 卷积神经网络（Convolutional Neural Networks, CNNs 或 ConvNets）是一类深度神经网络，特别擅长处理图像相关的机器学习和深度学习任务...
Multi-Scale Context Aggregation by Dilated Convolution 对空洞卷积（扩张卷积）、感受野的理解
妙猪的专栏
09-07 1万+
dilated convolution是针对图像语义分割问题中下采样会降低图像分辨率、丢失信息而提出的一种卷积思路。
论文阅读 || 深度学习之空洞卷积
magic_ll的博客
10-31 6918
论文地址：Multi-scale context aggregation with dilated convolutions 空洞卷积（Dilated/Atrous Convolution），就是在标准的卷积里面注入空洞，以此来增加感受野的大小。 1 原理的介绍 1.1 空洞卷积的引入 Deep CNN对于某些任务有致命的缺陷。较为明显的为pooling layer (优点：减小特征图尺寸...
[ECCV 2020] Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
我的博客
03-13 441
主要解决的问题：语义分割中的失败和异常检测； 解决方法：提出一个统一的框架，包含两个模型来处理以上两个问题； 模型1：图像合成模型，从分割输出map合成图像； 模型2：比较模型，计算合成图像和输入图像之间的差异。 目录引言相关工作方法 引言 深度学习在计算机视觉的众多任务中都取得较为成功的结果。但是，在实际应用中，例如自动驾驶、医学诊断和核电站监测，安全问题引起了极大的关注，尤其是在故障案例会导致严重后果的情况下。因此，机器学习系统能够检测到故障（即错误的预测）以及识别可能导致这些故障的异常，即out-o.
论文阅读：Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
qq_36224225的博客
08-01 980
Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation 文章目录Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation摘要主要贡献MethodologyExperiments个人总结原文下载 摘要 失败和异常监测能力是计算机视觉任务的基本要求，常规的作法是用模型生成的分割图和 grou
论文阅读理解 - Dilated Convolution
长风破浪会有时，直挂云帆济沧海
09-12 1万+
Dilated Convolution [Paper]: Multi-scale Context Aggregation by Dilated Convolutions [Caffe-Code] 1. Caffe 中的定义 Dilated Convolution 已经可在 Caffe 官方的卷积层参数中定义. message ConvolutionParameter { /...
空洞卷积(dilated convolution)和Dilated Residual Networks
11-07 1239
Dilated/Atrous Convolution(中文叫做空洞卷积或者膨胀卷积) 或者是 Convolution with holes 从字面上就很好理解，是在标准的 convolution map 里注入空洞，以此来增加 reception field。相比原来的正常convolution，dilated convolution 多了一个 hyper-parameter 称之为 dilation rate 指的是kernel的间隔数量(e.g. 正常的 convolution 是 dilatatio.
dilated conv带孔卷积、pooling层提高感受野 反卷积 的理解
jiachen0212的博客
11-16 2万+
首先放链接：https://www.zhihu.com/question/54149221 首先，初次接触这个问题是在做图像分割遇到的。 pooling为什么可以提高感受野？ 得这样理解：首先它第一个作用是降低feature map的尺寸，减少需要训练的参数；其次，因为有缩小的作用，所以之前的4个像素点，现在压缩成1个。那么，相当于我透过这1个点，就可以看到前面的4个点，这不就是把当前map
膨胀卷积（Dilated convolution）
热门推荐
满腹的小不甘
11-18 4万+
Dilated conv，中文叫做空洞卷积或者扩张卷积，起源于语义分割，大部分文章也用于语义分割，具体能否对其他应用有价值姑且还不知道，但确实是一个不错的探究方向。 感受野（receptive field）：CNN中，某一层输出结果中一个元素所对应的输入层的区域大小，感受野是卷积核在图像上看到的大小，例如3×3卷积核的感受野大小为9。越大的感受野包含越多的上下文关系。 膨胀卷积与普通的卷积相比...
猿创征文｜信息抽取（3）——pytorch实现IDCNN-CRF模型进行实体抽取
m0_46275020的博客
09-07 1648
模型：论文：摘要：对于序列标注来讲，普通CNN有一个劣势，就是卷积之后，末层神经元可能只是得到了原始输入数据中一小块的信息。而对NER来讲，整个句子的每个字都有可能都会对当前需要标注的字做出影响。为了覆盖到输入的全部信息就需要加入更多的卷积层， 导致层数越来越深，参数越来越多，而为了防止过拟合又要加入更多的Dropout之类的正则化，带来更多的超参数，整个模型变得庞大和难以训练。
csrnet: dilated convolutional neural networks for understanding the highly congested scenes
04-11
CSRNet是一篇名为"dilated convolutional neural networks for understanding the highly congested scenes"的论文，主要研究高密度场景下的人流量问题，通过使用膨胀卷积神经网络(也称空洞卷积神经网络)进行人群数量的估计。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值