EfficientNet论文解析

《EfficientNet：Rethinking Model Scaling for Convolutional Neural Networks》

论文地址：https://arxiv.org/pdf/1905.11946.pdf

参考原文：https://www.cnblogs.com/dengshunge/p/11369695.html

                  https://blog.csdn.net/Trent1985/article/details/91126085

                  https://blog.csdn.net/h__ang/article/details/92801712

1、基本概述

EfficientNet是谷歌大脑在2019年提出的，主要想解决的一个问题是，如何平衡网络的深度、宽度和分辨率来提高模型的准确率。

通常而言，提高网络的深度、宽度和分辨率来扩大模型，从而提高模型的泛化能力。但如果单一提高某个参数的话，模型准确率很快会达到饱和，如下图所示：

因此，需要同时对深度、宽度和分辨率来进行调整。作者提出了“复合相关系数（compound coefficient）”来动态提高这3个参数，如下图所示，(a)是baseline model，(b)-(d)是单一提高某个参数，(e)是3个参数动态调整。

下面，我们具体来了解一下EfficientNet的细节。

---

 前文提及到，动态调整深度、宽度和分辨率能提高网络的准确率，那么谷歌是如何做的？通过实验，作者得到了两个结论：

1. 扩大网络中深度、宽度或者分辨率的任一维度能提高模型的准确率，但随着模型的扩大，这种准确率的增益效果会逐步消失；
2. 为了更好的准确率和效率，很有必要去平衡提升网络中深度、宽度和分辨率的所有维度。

因此，谷歌对此进行了数据建模，如下图所示。使用了AutoML的方式，利用网格搜索的形式来搜索出这个相关系数。对，没错，有卡就是任性。其中，α,β,γ是使用网格搜索出来的常量，表明如何调整网络的深度、宽度和分辨率；Φ是用户自定义的相关系数，用来控制模型的扩增。

 EfficientNet有8个系列，分别从b0-b7,，其中b0是baseline，b1-b7都是在b0基础上对深度、宽度和分辨率进行调整。从官方源码上，可以得到以下参数。其中，参数分别是宽度的相关系数，深度的相关系数，输入图片的分辨率和dropout的比例。这些参数如何得到的呢，就是通过刚刚介绍的AutoML进行搜索出来的。

2、EfficientNet-b0的结构

EfficientNet-b0的结构与mobilenet v2很类似，使用了的Inverted Residuals和Linear Bottlenecks，并结合了SE模块。这么说，和mobilenet v3又很类似。

如下图所示，左图是MobileNet V2的网络图，右图是EfficientNet-b0的网络图。可以很明显看出来，两者还是十分相像的，最大的区别是在通道数上进行改变。

综上所述，谷歌提出扩大模型来提高准确率的方法，即动态调整网络的宽度、深度和分辨率。确实在保证运算速度的前提下，能将模型的准确率提高很多。最后也确实感觉到，AutoML的强大，有卡真好。

移动倒置瓶颈MBConv，其网络结构如下：

 

论文中基线模型使用的是 mobile inverted bottleneck convolution（MBConv），类似于 MobileNetV2 和 MnasNet，但是由于 FLOP 预算增加，该模型较大。于是，研究人员缩放该基线模型，得到了EfficientNets模型，它的网络示意图如下：

最后，研究人员对EfficientNets的效率进行了测试，结果如下：