神经网络的运算量FLOPS

FLOPS（floating point operations per second），每秒浮点运算次数。

对于计算量主要有Adds和Flops两个概念。shufflenet的论文用的是FLOPS，MobileNet用的是MAdds，FLOPS应该是Adds的两倍。

一般 $conv2d$ 的CNN卷积层的FLOPS（有论文出处：Pruning Convolutional Neural Networks for Resource Efficient Inference，arxiv 1611.06440）：

$$\mathrm{F}\mathrm{L}\mathrm{O}\mathrm{P}\mathrm{S}=2HW\left(C_{in}{K}^2+1\right)C_{out}$$

知乎上有比较详细的解释。

Depthwise 卷积层的FLOPS，$C_{in}=C_{out}$：

$$\mathrm{F}\mathrm{L}\mathrm{O}\mathrm{P}\mathrm{S}=HW{C}_{in}{K}^2$$