Spatially Attentive Output Layer for Image Classification论文阅读

于 2021-02-10 10:55:23 发布
阅读量284 收藏 3
点赞数
分类专栏： （论文总结） 图片分类 文章标签： 人工智能 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37844044/article/details/113768001
版权

@Spatially Attentive Output Layer for Image Classification论文阅读笔记

目录

1、论文思想

2、框架实现

3、损失设计

4、文章总结

写在前面的话：这是一篇来自于2020年CVPR的一篇文章，虽然它的引用量不是特别的高，但是这篇文章的角度比较让我感兴趣。起初是想借鉴其最后的一个分类的思想来进行其他领域的一个思想共用，读完以后，还是增加了自己的学识范围的。

1、论文思想

初涉ＣＶ领域的小伙伴应该都有对Ｍｎｉｓｔ手写数据集有所了解，会尝试在这个小型数据集上进行一些简单网络的构建来达到对手写数字的一个分类问题。

但是，在以往的分类任务上，我们都是采用的一个ＧＡＰ＋ＦＣ的一个最后“固化”模式。

这样的直接应用全连接层的方式，使得我们图像的一些空间信息在全连接层操作的过程中丧失。随之而来的是，分类效果的折扣问题的发生。

这也是论文作者的ｉｄｅａ的诞生的角度。作者思考能否使用一些辅助的结构或者另外的操作，来替换原有的ＧＡＰ＋ＦＣ的结构，从而缓解前面提到的不足。

２、框架设计

ＳＡＯＬ的结构图
其实从整体上不难发现，作者把原来的ＧＡＰ＋ＦＣ的部分进行了一个保留，然后再此基础上添加了两个部分结构。

（１）是将最后一个ｆｅａｔｕｒｅ　ｍａｐ进行一个卷积＋卷积＋ｓｏｆｔｍａｘ操作，得到文中提到的Ｓｐａｔｉａｌ　Ａｔｔｅｎｔｉｏｎ　Ｍａｐ。
（２）是借鉴了语义分割之中解码部分的一个多尺度融合的思想，利用ｂａｃｋｂｏｎｅ中的后三层ｆｅａｔｕｒｅ　ｍａｐ来进行一个ｒｅｓｉｚｅ＋ｃｏｎｃａｔ，经过一个常规卷积＋ｓｏｆｔｍａｘ来更好的得到Ｓｐａｔｉａｌ　Ｌｏｇｉｔｓ。
（３）则是原本的ＧＡＰ＋ＦＣ的结构部分。

３、损失设计

ｌｏｓｓ设计

我个人认为这部分作者的设计是挺巧妙的【也可能是我阅读论文的广度不够，得到的粗略结论，见谅】。论文提到的ＬＯＳＳ主要也是和框架对应的，主要分为三个部分。

（１）ＬＳＬ：这个损失部分，是来源于论文作者提出的ＳＡＯＬ结构产生的最终结果和Ｌａｂｅｌ之间的一个损失，也是属于我们常规设计的损失部分。

（２）ＬＳＳ１：这个损失部分是以基于一个ｓｅｌｆ－ａｎｎｏｔａｔｅｄ　ｓｐａｔｉａｌ　ｌａｂｅｌｓ。该ｌｏｓｓ由下图的两部分具体构成。先对ＣｕｔＭｉｘ－ｅｄ图片进行一个自监督尝试的部分，称为Ｍ【即图片中下面的分支】。然后对ＣｕｔＭｉｘ－ｅｄ图片经过一系列特征提取操作，产生一个预测的部分，称为Ｍ＇【即图片中上面的分支】。在这里插入图片描述
（３）ＬＳＳ２：这个损失部分是以基于一个ｓｅｌｆ－ｓｕｐｅｒｖｉｓｅｄ　ｌｏｓｓｅｓ。将混合输入粘贴区域的空间对数与原始数据切割区域的空间对数进行匹配，如下图所示。在这里插入图片描述
（４）ＬＳＤ：这个损失部分是一个自蒸馏的损失。自蒸馏：指自己蒸馏自己。Ｔｅａｃｈｅｒ　ｍｏｄｅｌ就是ｓｔｕｄｅｎｔ　ｍｏｄｅｌ的集成版本，称为自集成。简单点来说，就是利用原本的ＧＡＰ＋ＦＣ的结果来对现在通过ＳＯＡＬ结构产生结果进行监督。这样可以使得ＳＯＡＬ的结果接近原本结构的结果。

4、文章总结

这篇文章的大体思路较为简单，但是从这篇文章中我也学到了挺多东西的。１、对ＣＡＭ结构有了一个简单的认识。２、发现Ａｔｔｅｎｔｉｏｎ方式还能这样进行修改。３、了解了一个ＣｕｔＭｉｘ的数据增强的方式，以及它的损失函数的格式。４、第一次接触自蒸馏的部分，利用一个化学领域的名词来应用在神经网络工作上。既是非常有意思的“跨域”，也是挺有用的结构。

注：第一次写论文方面的博客，仍有很多不足，请多多包涵，欢迎讨论。

大梦冲冲冲
关注
专栏目录
【论文阅读笔记】NeurIPS2020文章列表Part1
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
（八：2020.08.27）CVPR 2020 追踪之论文纲要（译）
Jojo论文基地
08-27 1万+
CVPR 2019 追踪之论文纲要（修正于2020.08.27）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这1400篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 Respect！ 论文目录 论文 概要 12-in-1 - Multi-Task Vision and Language Repre
3.Spatially Attentive Output Layer for Image Classification.docx
02-04
CVPR2020:用于图像分类的空间注意输出层_论文阅读
26、Spatially Attentive Output Layer for Image Classification
WilsonAir的博客
08-05 1493
CVPR 2020 摘要 大多数用于图像分类的卷积神经网络（cnn）使用全局平均池（GAP）和输出逻辑的全连接（FC）层。然而，这种空间聚集过程固有地限制了输出层位置特定信息的利用，尽管这种空间信息可以有利于分类。在本文中，我们提出了一个新的空间输出层，在现有的卷积特征映射的基础上显式地利用特定位置的输出信息。具体地说，在给定的空间特征映射下，通过在空间逻辑上引入注意掩模，用空间注意输出层（SAOL）代替先前的GAP-FC层。所提出的位置特定注意有选择地聚集目标区域内的空间逻辑，这不仅可以提...
3.Spatially Attentive Output Layer for Image Classification 论文阅读
hb_learing的博客
02-04 478
第一次写阅读论文的博客，因公式太多，在csdn上实在敲不下去了。索性直接把word版本上传了上去，仅供大家参考！（阅读论文的时候，为了加深对内容的理解，把公式都给敲了上去，如有错误，请见谅。语言方面，会比纯机器翻译好一点，至少不会那么生硬啊） Title：Spatially Attentive Output Layer for Image Classification（用于图像分类的空间注意输出层） Writers：Ildoo Kim∗ Woonhyuk Baek∗ Sungwoong Kim Confer
《Spatially Attentive Output Layer for Image Classification》论文翻译
IT_frshman_number31的博客
11-11 1108
随手翻译一下最近阅读为论文，原文出处为CVPR 2020 Apr 16的开源期刊，文字叙述部分多为谷歌翻译加微调修改，文章第三节method为个人渣翻译，如果有不足之处请大佬指出。 原文地址：https://arxiv.org/abs/2004.07570 原文代码：https://github.com/ildoonet/spatially-attentive-output-layer（github上的代码好像被原作者删除了，如果哪位大佬有的话，可以私聊给我吗，thank you！） 感谢原作者：Ildoo
Attentive Recurrent Neural Network Weak-supervised Multi-label Image Classification
02-08
Attentive Recurrent Neural Network Weak-supervised Multi-label Image Classification
图像风格迁移cvpr2020_GitHub - wty2019/CVPR2020-Code: CVPR 2020 论文开源项目合集
weixin_39689297的博客
01-13 1007
CVPR2020-CodeCVPR 2020 论文开源项目合集，同时欢迎各位大佬提交issue，分享CVPR 2020开源项目关于往年CV顶会论文(如ECCV 2020、CVPR 2019、ICCV 2019)以及其他优质CV论文和大盘点，详见： https://github.com/amusi/daily-paper-computer-visionCNNExploring Self-attent...
CVPR 2020代码开源的论文最全合集
阿木寺的博客
06-20 2540
前言 之前Amusi整理了1467篇CVPR 2020所有论文PDF下载资源，详见：全在这里了！ CVPR2020-Code CVPR 2020 论文开源项目合集，同时欢迎各位大佬提交issue，分享CVPR 2020开源项目 关于往年CV顶会论文（如CVPR 2019、ICCV 2019、ECCV 2018）以及其他优质CV论文和大盘点，详见： https://github.com/amusi/daily-paper-computer-vision CNN 图像分类 目标检测 3D目标检测 视频目标检测
300+篇CVPR 2020代码开源的论文，全在这里了
yishuihanq的博客
06-17 1万+
300+篇CVPR 2020代码开源的论文，全在这里了！ CVPR 2020代码开源项目一放出，得到不少CVers的关注，重点是：开源和根据方向分类。目前star数已经来到2000+，期间也有不少国内外的CVPR 2020论文作者提交issue，分享他们的工作。 在此再次更新数据，代码开源的论文突破300+，项目还在持续更新，欢迎补充分享，也推荐大家学习： https://github.com/amusi/CVPR2020-Code 注：下面内容很硬核，可以在CVer公众号后台回复：CV..
基于传感器数据的行为识别
01-28
基于传感器行为识别的原理 动作识别的问题以及解决的办法
1506.02025_Spatial Transformer Networks
08-14
Convolutional Neural Networks define an exceptionally powerful class of models, but are still limited by the lack of ability to be spatially invariant to the input data in a computationally and parameter efficient manner. In this work we introduce a new learnable module, the Spatial Transformer, which explicitly allows the spatial manipulation of data within the network. This differentiable module can be inserted into existing convolutional architectures, giving neural networks the ability to actively spatially transform feature maps, conditional on the feature map itself, without any extra training supervision or modification to the optimisation process. We show that the use of spatial transformers results in models which learn invariance to translation, scale, rotation and more generic warping, resulting in state-of-the-art performance on several benchmarks, and for a number of classes of transformations.
300+篇CVPR 2020代码开源的论文（转载）
Mihu_Tutu的博客
06-17 3790
本文转自https://github.com/amusi/CVPR2020-Code，详细信息请跳转至该网址，有更多惊喜。 前言 之前Amusi整理了1467篇CVPR 2020所有论文PDF下载资源，以及270篇CVPR 2020代码开源论文项目，详见：270篇CVPR 2020代码开源的论文，https://github.com/amusi/daily-paper-computer-vision CVPR 2020代码开源项目一放出，得到不少CVers的关注，重点是：开源和根据方向分类。目前star数已
CVPR2020开源论文（部分带阅读笔记）
热门推荐
知识混子_的博客
05-29 3万+
CVPR2020论文开源项目合集CNNExploring Self-attention for Image RecognitionImproving Convolutional Networks with Self-Calibrated ConvolutionsRethinking Depthwise Separable Convolutions: How Intra-Kernel Correlations Lead to Improved MobileNets图像分类Compositional Convo
【论文速递】最新计算机视觉/图像处理方向论文
深度学习技术前沿
04-20 1185
关注上方“深度学习技术前沿”，选择“星标公众号”，资源干货，第一时间送达！[检测分类相关]：【1】 Joint Semantic Segmentation and Boundary De...
300+篇CVPR 2020代码开源的论文，全在这里了！
cs_softwore的专栏
06-21 9098
CVPR 2020代码开源项目一放出，得到不少CVers的关注，重点是：开源和根据方向分类。目前star数已经来到2000+，期间也有不少国内外的CVPR 2020论文作者提交issue，分享他们的工作。 在此再次更新数据，代码开源的论文突破300+，项目还在持续更新，欢迎补充分享，也推荐大家学习： https://github.com/amusi/CVPR2020-Code 注：下面内容很硬核，可以在CVer公众号后台回复：CVPR2020，即可下载如下内容 CVPR2020-Code..
cvpr2020图像分类分类文章
t20134297的博客
11-05 1035
Interpretable and Accurate Fine-grained Recognition via Region Grouping Exploring Self-attention for Image Recognition Compositional Convolutional Neural Networks: A Deep Architecture with Innate Robustness to Partial Occlusion Spatially Attentive Outpu
Annotation of spatially resolved single-cell data with STELLAR
最新发布
04-28
is a computational tool developed by researchers at the Broad Institute of MIT and Harvard for annotating spatially resolved single-cell data. It uses a combination of machine learning algorithms and ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值