论文阅读-(CCNet)Criss-Cross Attention for Semantic Segmentation

最新推荐文章于 2024-01-09 13:53:21 发布
最新推荐文章于 2024-01-09 13:53:21 发布
阅读量2k 收藏 4
点赞数
分类专栏： 语义分割 cv deep neural network deeplearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hi_maxin/article/details/89460746
版权
本文介绍了一种名为CCNet的语义分割方法，它通过交叉注意力模块(CCA)有效地获取上下文信息，同时减少了计算复杂度。与Non-local操作相比，CCNet在GPU占用和浮点运算上都有显著优势。尽管Non-local操作能获取全局信息，但计算成本高，而CCNet则通过交叉注意力实现高效的信息聚合，适用于密集上下文信息的获取。网络结构包括特征提取、CCA模块和全局信息聚合，旨在解决全卷积网络中局部上下文信息不足的问题。
摘要由CSDN通过智能技术生成

相关论文 non local 操作

  1. 要点:
    criss-cross attention module 获得上下文信息
    循环操作, 每一个像素可以获得全图信息

  2. 优势:
    与non-local 操作相比,少了85%的浮点运算,
    与non-local 操作相比,GPU占用率时1/11
    state of the art

  3. 现存问题
    Due to the fixed geometric structures, they are inherently limited to local receptive fields and short-range contextual information.导致全卷积神经网络没有足够的上下文信息

  4. 现存解决方案:

    • ASPP
      不足:从周围像素获取信息,不能获得dense contextual information
    • 金字塔池化
      均等的上下文信息被所有像素所采纳,不符合不同的像素有不同的依赖
    • non local 操作
      O((H × W ) × (H × W )) in time and space
      在这里插入图片描述

  5. 网络结构
    (1)基本结构

最低0.47元/天 解锁文章
不会再写代码了
关注
专栏目录
改进YOLO系列：添加CrissCrossAttention注意力机制
blotemj.blog.csdn.net
08-02 116
CrissCrossAttention（十字交叉注意力）注意力机制是一种在深度学习中，特别是在图像处理和计算机视觉领域，用于提高模型捕捉全局上下文信息能力的技术。该机制最初由电信学院刘文予教授、王兴刚副教授团队提出，并在语义分割、目标检测等任务中展现出优异的性能。
注意力机制论文:CCNet: Criss-Cross Attention for Semantic Segmentation及其PyTorch实现
mingo_敏
06-03 4129
CCNet: Criss-Cross Attention for Semantic Segmentation PDF: https://arxiv.org/pdf/1811.11721.pdf PyTorch代码: https://github.com/shanglianlm0525/PyTorch-Networks PyTorch代码:
CCNet_Criss-Cross Attention for Semantic Segmentation
holmes_MX的博客
05-24 559
0. 写作目的 好记性不如烂笔头。 1. 主要思路 目前的self-attention需要生成 N * N 的affinity 矩阵（其中N = H * W）， 作者提出存在一种更有效的方法？ 因此作者提出了 Criss-Cross attention，使用“十字架” 的结构来代替 所有的位置(感觉使用“十字架”的paper很多，比如GCN使用十字街的conv，SPNet使用“十字架”的Pooling)。然后使用两次 criss-cross attention，这样可以...
Criss-Cross Attention for Semantic Segmentation论文及代码分析
Strange_Gu的博客
04-26 3486
先附上论文及代码。 1. Introduction 由于固定的几何结构，传统的FCN受限于局部的感受野，只能提供短程的上下文信息。这对于提升分割任务的精度起到相反的影响。 为了弥补FCN的缺陷，ASPP和PPM模块被提出来，在网络的底层中加入有效的上下文特征。但是膨胀卷积并不能够产生密集的上下文信息。同时，基于池化的方法以非自适应的方式聚合上下文信息，并且认为所有图像像素具有相同的重要性，这不能满足不同像素需要不同的上下文依赖关系的要求。 为了包含密集的且逐像素的上下文信息，一些全连接的GNN方法被提出来
CCNet: Criss-Cross Attention for Semantic Segmentation
pangyunsheng的博客
04-07 9777
CCNet: Criss-Cross Attention for Semantic Segmentation 这是一篇2018年11月挂在arxiv上的语义分割文章，本文对这篇文章进行详细解读。 1.Abstract   长依赖关系可以捕获有用的上下文信息，这对于视觉理解问题是有益的。本文提出了CCNet来以一种更有效的方式捕获这种重要信息。具体地说，对于每个pixel，CCNet通过一个cris...
CCNet：Criss-Cross Attention for semantic Segmentation
qq_37935516的博客
08-17 3807
原文链接：https://arxiv.org/abs/1811.11721 Github：https://github.com/speedinghzl/CCNet 本文也是Self-Attention机制的文章，该论文在捕获long-range上下文信息的同时提高了计算性能并减少了GPU内存，在Cityscapes、ADE20K和MSCOCO数据集上取得了先进性能。 文中1*1卷积的理解...
【CCNet】《CCNet：Criss-Cross Attention for Semantic Segmentation》
最新发布
bryant_meng
01-09 1516
ICCV-2019
2018 CVPR之语义分割：CCNet: Criss-Cross Attention for Semantic Segmentation
makabaka的博客
11-01 1583
CCNet: Criss-Cross Attention for Semantic Segmentation 简述： 目前，语义分割的主流方法多为以FCN为基础的网络，它们天生局限于局部接受域和短期上下文信息。由于语境信息的不足，这些限制对基于模糊语言的方法产生了很大的负面影响。随后的带有金字塔池模块的PSPNet来捕获上下文信息同样没有达到预期的效果。本文提出CCNet，利用当前的两个交叉关注模...
CCNet: Criss-Cross Attention for Semantic Segmentation阅读笔记
qq_43444151的博客
01-29 1217
0摘要： Criss_Cross用于捕捉上下文信息，上下文信息可以用于远程依赖。使用新颖的criss_cross attention module，每个像素都可以取得它周围像素的信息。CCNet有如下几个好处： 1）GPU内存友好。与非本地块相比，循环纵横交叉注意模块所需的GPU内存使用量减少了11倍。 2）高计算效率。在计算远程依存关系时，反复出现的纵横交错注意力将FLOP减少了非本地块的大约85％。 3）最先进的性能。我们对流行的语义分段基准（包括Cityscapes，ADE20K和实例分段基准COCO
图像分割 | CCNet: Criss-Cross Attention for Semantic Segmentation
小白学视觉
02-13 2039
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达说在前面1. 和Non-local相比，1/11的内存消耗，15%的计算开销，效果更好2. 源码CCNet的CCA部分使用cuda手写的3. 有种N×N卷积变成N×1和1×N的味道ICCV 2019，原文链接：ieeexplore.ieee.org/doc基于Pytorch，原文开源代码：github.com/speedingh...
CCNet: Criss-Cross Attention for Semantic Segmentation论文解读
我的博客有点东西
08-15 5174
这是ICCV2019的用于语义分割的论文，可以说和CVPR2019的DANet遥相呼应。关于DANet可以见我的另一篇博客 idea 和DANet一样，CCNet也是想建模像素之间的long range dependencies，来做更加丰富的contextual information，来补充特征图，以此来提升语义分割的性能。但是和DANet不一样，CCNet仅考虑空间分辨上的建模，不考虑建模通...
【文献阅读】CCNet: Criss-Cross Attention for Semantic Segmentation
weixin_43578873的博客
04-15 744
论文链接：https://arxiv.org/pdf/1811.11721.pdf 国内镜像：https://xxx.itp.ac.cn/pdf/1811.11721.pdf FCN由于固定的几何结构，它们天生局限于局部的接受域和短距离的上下文信息。 全图像依赖提供了有用的上下文信息，有利于视觉理解问题。 基于空洞卷积的方法从周围的几个像素点收集信息，实际上并不能生成密集的上下文信息 ① Re...
CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读--2020TPAMI
深度检测的博客
08-05 945
CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读 目录：CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读AbstractINTRODUCTIONAPPROACH3.1 Network Architecture3.2 Criss-Cross Attention3.3 Recurrent Criss-Cross Attention (RCCA) 论文下载地址：点击此链接跳转 这
18-CCNet-Criss-Cross-Attention-for-Semantic-Segmentation
u010067397的专栏
01-13 2772
how 下图蓝色点为待处理像素点 ,处理后得到结果为红色点 : （a）是Non-local，含蓝色中心的feature map是输入，分为上下两个分支处理： 深绿色分支代表已经完成Non-local操作，得到了 (绿色的深浅则代表了当前位置与蓝色中心点的相关性大小)； 下面灰色分支代表进行了 操作。将两个结果相乘，得到 (含红色中心的feature map). （b）即为CC...
《CCNet：Criss-Cross Attention for Semantic Segmentation》论文笔记
m_buddy的博客
11-09 596
参考代码：CCNet 1. 概述 导读：CNN网络中较大范围的依赖（long-range dependencies）可以捕捉到很多有用的上下文信息，这个特性在图像理解任务中具有重要作用（如分割）。文章在参考non-local设计理念的基础上使用在像素点位置十字交叉的方式进行attention操作，用以获取丰富的上下文信息，提出由CCA模块构建的CCNet（criss-cross Network）。文章的方法相比之前的non-local具有如下两个优点： 1）相比non-local在显存上的开销更小，之间差
ccnet: criss-cross attention for semantic segmentation
03-16
ccnet是一种用于语义分割的criss-cross attention技术。它可以在不同层次的特征图之间进行交叉注意力，以捕捉更多的上下文信息，从而提高分割的准确性。该技术已经在许多语义分割任务中取得了很好的效果。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值