【论文阅读笔记】MULTI-SCALE DENSE NETWORKS FOR RESOURCE EFFICIENT IMAGE CLASSIFICATION

最新推荐文章于 2023-02-26 03:30:00 发布

cskywit

最新推荐文章于 2023-02-26 03:30:00 发布

阅读量2k

点赞数

分类专栏：机器学习文章标签：阅读

本文链接：https://blog.csdn.net/cskywit/article/details/78742215

版权

机器学习专栏收录该内容

96 篇文章 17 订阅

订阅专栏

Gao Huang(Cornell University), ICLR 2018 best Papers

文章链接：https://arxiv.org/pdf/1703.09844.pdf

代码链接：https://github.com/gaohuang/MSDNet

本文由香奈儿大学的几位教授撰写，获得ICLR2018最佳论文。文章基于CNN，提出一种图像分类方法：在现实中对图像分类难度不一，采用一个固定的框架对图片进行分类时有时不够灵活，比如使用复杂网络对简单图片分类比较浪费资源，而使用简单网络对复杂图片进行分类效果又不够好。文章提出下图的网络架构：

主要思想就是在一个网络中有多个分类出口，对于简单图像可以直接从前面某个分类出口得到结果，而难分类的网络可能要到网络后面的某一层才能得到可靠的结果，而且这些分类出口并不是简单在一个网络的一些层直接引出，毕竟浅层特征直接用来分类的效果是非常差的，因此采用的是multi-scale的特征。

文章的两个setting是 Anytimeprediction和Budgeted batch classification。Anytime prediction部分通过设置阈值budget，相当于计算资源的限制条件，相当于每次给模型输入一张图像，然后根据计算资源限制来给出预测结果。budgeted batch classification中是对每一个batch的输入图像都有一个computationalbudget B>0，假设这个batch里面包含M张图像，那么可能简单图像的耗时要小于B/M，而复杂图像的耗时要大于B/M。

文章的的两个核心结构是 multi-scale feature mapsanddense connectivity。其中multi-scalefeature maps

文章解决的两个核心问题：

问题1：传统神经网络学习图片特征是通过前面层次的fine scale和后面层次的coarse scale完成，分类器的分类精度与分类器的位置高度相关，位于前面的分类器由于缺乏coarse scale导致分类效果较差。

解决1：multi-scalefeature maps。

Thefeature maps at a particular layer and scale are computed by concatenating theresults of one or two convolutions: 1. the result of a regular convolutionapplied on the same-scale features from the previous layer (horizontalconnections) and, if possible, 2. the result of a strided convolution applied onthe finer-scale feature map from the previous layer (diagonal connections). Thehorizontal connections preserve and progress high-resolution information, whichfacilitates the construction of high-quality coarse features in later layers.The vertical connections produce coarse features throughout that are amenableto classification.

问题2：前面的分类器会影响后面的分类器分类效果。

解决2：Dense connectivity。Dense connectivity将每一层与相关的层全部连接起来，允许后面的层通过短期优化的特征，使得最终的分类器仍然保持很高的准确度。而且最终分类器的分类效果与中间分类器无关。

本文提出的MSDNet如图：