1. backbone
bacebone | 应用 | 基本结构 | year | 备注 |
VGG系列 | 2014 | |||
resnet系列 | resnet18 resnet34 resnet50 resnet101 resnet152 | Conv Block下采样 Identity Block加深网络(Resnet50) | 2015 | 通常看到用来做backbone的主要是resnet50与resnet101 |
resnext | 吸收了ResNet和Inception结构的优点 | 2017 | ||
Darknet系列 | ||||
Mobilenet系列 | 2019 | |||
HRNet系列 | ||||
ConvNeXt | 纯卷积,对标Transformer | 2022 | 比Transformer更快的推理速度以及更高的准确率 | |
Transformer系列 | ||||
2. 结构图
1. Resnext
Resnext: 用一种平行堆叠相同拓扑结构的blocks代替原来 ResNet 的三层卷积的block,在不明显增加参数量级的情况下提升了模型的准确率,同时由于拓扑结构相同,超参数也减少了,便于模型移植。
2.ConvNeXt
3.Mobilenet
深度学习领域内也在努力促使神经网络向小型化发展。在保证模型准确率的同时体积更小,速度更快。到了2016年直至现在,业内提出了SqueezeNet、ShuffleNet、NasNet、MnasNet以及MobileNet等轻量级网络模型。这些模型使移动终端、嵌入式设备运行神经网络模型成为可能。而MobileNet在轻量级神经网络中较具代表性。
特点:MobileNet网络拥有更小的体积,更少的计算量,更高的精度。在轻量级神经网络中拥有极大的优势。
MobileNet凭借网络结构优化,在更少的参数及更少的计算量情况下,网络精度反而超过了部分大型神经网络。在最新的MobileNetV3-Large中,实现ImageNet数据集Top1准确率达到75.2%。
使用Google Pixel-1手机测试,MobileNet各版本都能保持运行时间在120ms以下,最新版MobileNetV3-Large运行时间达到66ms,参数量和计算量更低的MobileNetV3-Small更是能达到22ms。(StabNet是35帧,0.028ms)