深度学习中各个模型简介

本文介绍了多个在深度学习领域具有里程碑意义的卷积神经网络模型,包括AlexNet、VGG19、GoogLeNet、ResNet系列,以及MobileNet系列。这些模型通过不同的结构创新和优化策略,如残差连接、小型卷积核、SE模块等,实现了提高准确率、减少计算量和适应移动端的目标。此外,还提到了GPU在模型运算加速中的作用以及蒸馏方案对模型性能的提升。
摘要由CSDN通过智能技术生成
模型名称模型简介
AlexNet首次在 CNN 中成功的应用了 ReLU, Dropout 和 LRN,并使用 GPU 进行运算加速。
VGG19在 AlexNet 的基础上使用 3*3 小卷积核,增加网络深度,具有很好的泛化能力。
GoogLeNet在不增加计算负载的前提下增加了网络的深度和宽度,性能更加优越。
ResNet50Residual Network,引入了新的残差结构,解决了随着网络加深,准确率下降的问题。
ResNetvd服务器端应用实用模型。融合多种对 ResNet 改进策略,ResNet50vd的top1准确率达到79.1%,相比标准版本提升2.6%。在V100上预测一张图像的时间3ms左右。进一步采用SSLD蒸馏方案,其top1准确率可以达到82.39%。
Inceptionv4将 Inception 模块与 Residual Connection 进行结合,通过ResNet的结构极大地加速训练并获得性能的提升。
MobileNetV1将传统的卷积结构改造成两层卷积结构的网络,在基本不影响准确率的前提下大大减少计算时间,更适合移动端和嵌入式视觉应用。
MobileNetV2MobileNet结构的微调,直接在 thinner 的 bottleneck层上进行 skip learning 连接以及对 bottleneck layer 不进行 ReLu 非线性处理可取得更好的结果。
MobileNetV3移动端应用实用模型。MobileNetV3是对MobileNet系列模型的又一次升级,MobileNetV3largex10的top1准确率达到75.3%,在骁龙855上预测一张图像的时间只有19.3ms。进一步采用SSLD蒸馏方案,其top1准确率可以达到79%。
SENet154vd在ResNeXt基础、上加入了 SE(Sequeeze-and-Excitation) 模块,提高了识别准确率,在 ILSVRC 2017 的分类项目中取得了第一名。
ShuffleNetV2ECCV2018,轻量级 CNN 网络,在速度和准确度之间做了很好地平衡。在同等复杂度下,比 ShuffleNet 和 MobileNetv2 更准确,更适合移动端以及无人车领域。
efficientNet同时对模型的分辨率,通道数和深度。进行缩放,用极少的参数就可以达到SOTA的精度。
xception71对inception-v3的改进,用深度可分离卷积代替普通卷积,降低参数量的同时提高了精度。
dpn107融合了densenet和resnext的特点。
mobilenetV3smallx10在v2的基础上增加了se模块,并且使用hard-swish激活函数。在分类、检测、分割等视觉任务上都有不错表现。
DarkNet53检测框架yolov3使用的backbone,在分类和检测任务上都有不错表现。
DenseNet161提出了密集连接的网络结构,更加有利于信息流的传递。
ResNeXt152vd64x4d提出了cardinatity的概念,用于作为模型复杂度的另外一个度量,并依据该概念有效地提升了模型精度。
SqueezeNet11提出了新的网络架构Fire Module,通过减少参数来进行模型压缩。
  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

心无旁骛~

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值