READING NOTE: Aggregated Residual Transformations for Deep Neural Networks

最新推荐文章于 2022-07-04 19:32:33 发布
最新推荐文章于 2022-07-04 19:32:33 发布
阅读量1.3k 收藏
点赞数
分类专栏： 计算机视觉 DL
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/joshua_1988/article/details/53207371
版权

TITLE: Aggregated Residual Transformations for Deep Neural Networks

AUTHOR: Saining Xie, Ross Girshick, Piotr Dollár, Zhuowen Tu, Kaiming He

ASSOCIATION: UC San Diego, Facebook AI Research

FROM: arXiv:1611.05431

CONTRIBUTIONS

A simple, highly modularized network (ResNeXt) architecture for image classification is proposed. The network is constructed by repeating a building block that aggregates a set of transformations with the same topology.

METHOD

The network is designed with two simple rules inspired by VGG/ResNets:

  1. if producing spatial maps of the same size, the blocks share the same hyper-parameters (width and filter sizes).
  2. each time when the spatial map is downsampled by a factor of 2, the width of the blocks is multiplied by a factor of 2. The second rule ensures that the computational complexity, in terms of FLOPs is roughly the same for all blocks.

The building block of ResNeXt is shown in the following figure:

Such design will make the network having more channels (sets of transformations) without increasing much FLOPs, which is claimed as the increasing of ardinality.

SOME IDEAS

The explanation of why such designation can lead to better performance seems to be less pursative.

Joshua_Li_
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ResNext：Aggregated Residual Transformations for Deep Neural Networks
just
03-13 564
本文提出了一种简单的、高度模块化的图像分类网络结构。本文的网络是通过重复一个构建块来构建的，该构建块聚合了一组具有相同拓扑结构的转换(transformations)。本文设计了一个同构的多分支体系结构，只需要设置几个超参数来实现；这种策略探索了一个新的维度，我们称之为"cardinality 基数"，作为深度和宽度之外的一个重要因素；在ImageNet-1k数据集上证明，即使在保持复杂度不变的限制条件下，增加"基数"也能提高分类精度；此外，当我们增加容量时，增加基数比更深入或更广泛更有效。
Aggregated Residual Transformations for Deep Neural Networks
qq_52302919的博客
01-24 1585
废话不多说，先上图。上图中左侧为A block of ResNet，右侧即为本文章所提出的新结构：A block of ResNeXt with cardinality = 32,与左侧的结构复杂度相似，框中的数字含义分别为 (# in channels,filter size, # out channels).
Aggregated Residual Transformations for Deep Neural Networks（论文翻译）
MJ17709005513的博客
03-18 2054
摘要 我们提出了一种用于图像分类的简单、高度模块化的网络架构。我们的网络是通过重复一个构建块来构建的，该构建块聚合了一组具有相同拓扑的转换。我们简单的设计产生了一个同质的多分支架构，只需设置几个超参数。这个策略暴露了一个新的维度，我们称之为“基数”（转换集的大小），作为深度和宽度维度之外的一个重要因素。在 ImageNet-1K 数据集上，我们凭经验表明，即使在保持复杂性的限制条件下，增加基数也能够提高分类精度。此外，当我们增加容量时，增加基数比更深或更宽更有效。我们的模型名为 ResNeXt，是我们进入
论文阅读：Aggregated Residual Transformations for Deep Neural Networks
Stray_Lambs的博客
03-19 563
本萌新记录一下看过的论文，如果理解有误大佬们体谅下QAQ。 摘要： 作者提出一个用于图像分类的、简单、高度模块化的网络结构。该网络是通过重复一个构建块(building block)来构建的，该构建块聚合了一组具有相同拓扑结构的转换。作者的简单设计产生了一个同质的、多分支的体系结构，只需要设置几个超参数。这个策略中引入(exposes)一个新的维度，我们称之为“基数”（转换集的...
Aggregated Residual Transformations for Deep Neural Networks(ResNeXt)
you2336的博客
10-24 441
该论文提出了一个简单、高度模块化的图像分类网络结构。该网络结构是通过重复一个构建块(buildng block)搭建的，这个构建块聚合了一组具有相同拓扑结构(same topology)的转换。这种策略提出了一个新的维度概念，作者称为“基数(cardinality)”，定义为转换维度的大小(the size of the set of transformations)，并且是作为一个除了深度和宽度对神经网络必不可少的因素。在ImageNet-IK数据集上，实验表明，即使在维持复杂性的限制条件下，
Aggregated Residual Transformations for Deep Neural Networks.pdf
05-09
ResneXt网络论文
A maximum flow algorithm for buffer-limited delay tolerant networks
01-20
Deep space networks, satellite networks, ad hoc networks, and the Internet can be modeled as DTNs (Delay Tolerant Networks). As a fundamental problem, the maximum flow problem is of vital importance ...
AOT-GAN-for-Inpainting:用于高分辨率图像修补的AOT-GAN（图像修补的代码库）
04-07
title = {Aggregated Contextual Transformations for High-Resolution Image Inpainting}, booktitle = {Arxiv}, pages={-}, year = {2020} } 介绍 尽管取得了一些令人鼓舞的结果，但是对于现有的图像修复方法...
Face recognition based on deep aggregated sparse autoencoder network
02-08
Face recognition based on deep aggregated sparse autoencoder network
aggregated_semantic_matching:cnn + knrm用于实体链接
05-09
"aggregated_semantic_matching:cnn + knrm用于实体链接"这个标题指出了一种特定的方法，即结合卷积神经网络（CNN）和知识图谱嵌入匹配（KNRM）来实现这一目标。下面将详细解释这两个技术以及它们在实体链接中的应用...
【翻译】Aggregated Residual Transformations for Deep Neural Networks
jokerwu192的博客
07-04 515
Aggregated Residual Transformations for Deep Neural Networks 作者：Saining Xie1 Ross Girshick2 Piotr Dollar2 Zhuowen Tu1 Kaiming He2 1、UC San Diego 2、Facebook AI Research
批量残差网络-Aggregated Residual Transformations for Deep Neural Networks
AI小作坊 的博客
02-16 4726
Aggregated Residual Transformations for Deep Neural Networks Facebook AI Research 大牛 Ross Girshick Kaiming He 作品官方代码 Torch: https://github.com/facebookresearch/ResNeXtCaffe 代码：https://github.com/te
【论文阅读】Aggregated Residual Transformations for Deep Neural Networks Saining（ResNext）
SilverBullet
05-02 3815
这篇文章是kaiming大神的组的工作，在resnet上继续改进。一作谢赛宁，2013年从上海交大本科毕业后去UCSD读博士，现在他引1400+了（不知道我毕业时能不能有这个的一半QAQ），导师是Zhuowen Tu。 Introduction 现代的网络设计中通常会次堆叠类似结构，如VGG,Inception，Resnet等，从而减少网络中超参数的数量，简化网络设计。 Incept...
ResNeXt算法详解
热门推荐
AI之路
05-11 9万+
论文：Aggregated Residual Transformations for Deep Neural Networks 论文链接：https://arxiv.org/abs/1611.05431 PyTorch代码：https://github.com/miraclewkf/ResNeXt-PyTorch 这是一篇发表在2017CVPR上的论文，介绍了ResNet网络的升级版
论文阅读：Aggregated Residual Transformations for Deep Neural Networks（ResNeXt）
j879159541的博客
06-27 464
文章目录1、论文总述2、vgg/resnet 与 Inception系列网络设计机制的不同点3、ResNeXt并不是ensembling4、两个设计准则5、split-transform-merge的本质6、BN和Relu的位置 1、论文总述 这篇论文提出的网络是resnet的升级版，设计思想结合了vgg/resnet 的stacking building blocks 以及 Inception系列的 split - transform - merge，ResNeXt中的next是指作者在这篇论文中提出了另
[Paper note] Aggregated Residual Transformations for Deep Neural Networks
chn13的博客
12-15 610
paper note for ResNeXt
炼丹-深度学习-《Aggregated Residual Transformations for Deep Neural Networks》
qq_24375467的博客
12-18 931
Aggregated Residual Transformations for Deep Neural Networks 原文地址：Aggregated Residual Transformations for Deep Neural Networks 文章目录Aggregated Residual Transformations for Deep Neural Networks生词：Abstra...
[论文阅读]ResNetXt|Aggregated Residual Transformations for Deep Neural Networks
一碗白开水一
08-12 965
题目： Aggregated Residual Transformations for Deep Neural Networks 作者： Saining Xie； Ross Girshick ； Piotr Doll´ar；Zhuowen Tu； Kaiming He 看到Kaiming He就不陌生了吧 Motivation: 作者还是为了找到一种更优的方法或者卷积方式来做目标分类。于是乎提出ResNetXt。 Method: 作者想出这样一种方法： a)b)只是concatenate的方法不一样，c
Aggregated Residual Transformations for DeepNeural Networks -ResNetXt2017【论文理解】
m0_37477175的博客
11-29 2038
前言 这是残差家族的新的成员，在残差网络结构的设计中加入了“基数Cardinality”的概念，本质上就是分组卷积group convolution的运用，分组卷积最早的提出是在AlexNet中，是为了解决显存不够大的问题而提出的。具有相同网络拓扑结构的模块堆叠而成，在ImageNet分类中性能上优于ResNet-101/152[1],ResNet200 [2], Inception-v3 [3]...
基于残差网络的田区智能检测系统的参考文献
最新发布
04-30
以下是一些可能有用的参考文献： 1. He, Kaiming, et al. "Deep residual learning for image recognition." Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. 2. Wang, Xiaoyu, et al. "A deep learning approach for sugarcane rust detection using residual networks." Computers and Electronics in Agriculture 157 (2019): 459-466. 3. Xie, Lingxi, et al. "Aggregated residual transformations for deep neural networks." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2017. 4. Zhang, Zhiyuan, et al. "Crop row detection in maize fields with morphological residual networks." Computers and Electronics in Agriculture 144 (2017): 99-107. 5. Wu, Yanan, et al. "A novel deep learning approach for rice leaf diseases recognition using residual networks." Computers and Electronics in Agriculture 160 (2019): 31-38. 6. Li, Hui, et al. "A deep residual network approach for automatic detection of maize tassels in field conditions." Computers and Electronics in Agriculture 163 (2019): 104850. 希望这些文献对你有所帮助！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值