VoVNet神经网络学习

参考文章：

                VoVNet：实时目标检测的新backbone网络 - 知乎 (zhihu.com)

1、backbone

        SSD采用VGG，YOLO采用DarkNet，Faster R-CNN采用ResNet，我们一般称这些网络为目标检测模型的backbone。

2、为什么要用VoVNet

        DenseNet其实比ResNet提取特征能力更强，而且其参数更少，计算量（FLOPs）也更少，用于目标检测虽然效果好，但是速度较慢，因为DenseNet中密集连接所导致的高内存访问成本和能耗。

        基于VoVNet的目标检测模型性能超越基于DenseNet的模型，速度也更快，相比ResNet也是性能更好。

3、高效网络设计要素（不是很懂）

        输入和输出的channel数相同时MAC才取下界，此时的设计是最高效的。

4、GPU计算效率

        大的卷积层尽量别拆为小的卷积层，不利于GPU计算效率

5、OSA模块

        DenseNet：密集连接太重，每个layer都会聚合前面层的特征，造成特征冗余。

        OSA模块：只在最后一次聚合前面所有的layer

6、VoVNet结构

        

       注：stride表示步长，就是移动距离

        stem block  ————>>>>>>>>3个3*3卷积层

        4个stage的OSA模块，每个stage的最后会采用一个stride为2的3x3 max pooling层进行降采样

        每次降采样后都会提升特征的channel数。

        VoVNet-27-slim是一个轻量级模型

7、VoVNet 检测效果

        

         FLOPS：浮点运算的数量，表示卷积层的计算量大小，评估模型的复杂度和计算效率。

        计算效率来看，VoVNet-27-slim比较高。

       

8、VoVNet2

        VoVNet2引入ResNet的残差连接和SENet的SE模块

        VoVNetV2相比VoVNet增加了少许的计算量，但是模型性能有提升