EfficientNet

EfficientNet

1. Introduction

扩展COnvnet被广泛的应用于获得更好的精度，可以按深度或宽度扩展，另一种流行的方法是通过图像分辨率来扩大模型。但在以前的工作中，需要繁琐的手工调整，而且经常产生次精度，在本文中，我们要研究扩展Convnet的过程，是否有一种原则性的方法来扩大Convnet。我们的研究表明，平衡网络宽度/深度/分辨率是非常重要的，而且这种平衡可以简单的以常数比例缩放每一个维度。

如果输入图像较大，那么网络需要更多的层来增加感受野，需要更多的通道来捕获更大图像上更细粒度的模式。以往的理论证明，网络宽度和深度之间存在一定的关系。我们使用神经搜索网络来开发新的baseline网络。

3. Compound Model Scaling

3.1. Problem Formulation

与常规convnet设计不同，这些设计主要侧重于寻找最佳的层结构Fi，模型缩放，即扩展深度，宽度和分辨率，而不改变基线网络中预定的Fi。通过固定Fi，模型缩放简化了新资源约束下的设计问题，但对于每一层来说，探索不同的Li，Ci，Hi，Wi仍然是一个很大的设计空间，为了进一步缩小设计空间，我们还限制了所有层必须以常数比例均匀缩放，我们的目的是对任何给定的资源约束最大限度地提高模型的精度。这可以描述为一个优化问题。

w，d，r是扩展网络宽度深度和分辨率的系数。

3.2. Scaling Dimensi

Depth:非常深的网络的精度增益非常小，resnet-1000和resnet=101具有差不多的精度。

Width：更宽的网络能够捕捉到更加细粒度的特征，而且更加容易训练，但浅的网络很难捕捉高层次的特征，它的精度会迅速饱和。

Resolution：更高的分辨率确实提高了精度，但是对于非常高的分辨率，精度增益会下降。

3.3. Compound Scaling

我们观察到，对于高分辨率的图像，我们应该增加网络深度，这样更大的感受野可以更好的捕捉类似的特征。相应的，也应该增加网络宽度，以便在高分辨率图像中捕获更多像素的更细粒度的图像。

如果我们只缩放宽度而不改变深度，则精度会很快饱和。如果在扩展宽度的同时加深深度和更高的分辨率，在相同的FlOPs情况下，能偶获得更好的精度。

为了追求更高的精度，Convnet缩放过程中必须平衡网络宽度深度和分辨率。本文提出了一种新的，采用复合系数φ 对网络的宽度、深度和分辨率进行均匀缩放。

其中α，β，γ是通过小网格搜索确定的常量。φ 是我们可以指定的系数，它控制模型的缩放。加倍的网络使FLOPS加倍，加倍的宽度和分辨率使FLOPS增加4倍，所以，对convnet缩放就会导致α·β2 ·γ2倍的FLOPS增加，我们用第四排的方程对总FLOPS进行约束对于任何新的φ ，总FLOPS数将增加2^φ 。

4. EfficientNet Architecture

我们用一种多目标的神经结构搜索来发展我们的baseline，我们使用和mnasnet一样的搜索空间，我们把 ACC(m)×[F LOP S(m)/T] ^ w 作为优化目标，ACC(m) and FLOP S(m) 指的是m模型的精度和FLOPS。T是目标FLOPS，w=-0.07是控制精度和FLOPS之间权衡的超参数。我们的搜索产生了一个高效的网络，和mnasnet很像，但我们的网络稍大，应为我们设置了较大的FLOPS，目标结构如下：

它的主要构建块是mobile inverted bottleneck MBConv，我们还添加了
squeeze-and-excitation optimizatio结构，我们使用两个步骤来缩放网络：

第一步：首先使φ=1，然后对α，β，γ进行小范围的网格搜索，在α·β2 ·γ2≈2 的约束下，我们找到的最佳值是α=1.2，β=1.1，γ=1.15，

第二步：然后将α，β，γ作为常数，使用方程3扩展不同φ的baseline 网络，以获得有效的Net-B1 到 B7。

这种方法可以节省cost。不必在大型网络中搜索。