CNN经典网络模型发展史:LeNet, AlexNet, VGGNet, GoogLeNet, ResNet, DenseNet(持续更新)

本文回顾了卷积神经网络(CNN)的发展历程,从早期的LeNet开始,经过AlexNet、VGGNet、Inception系列(V1至V4),再到ResNet和DenseNet。每个模型都引入了独特的创新,如数据增强、ReLU激活、网络规范化、残差连接等,不断推动网络的深度、宽度和计算效率的提升。
摘要由CSDN通过智能技术生成

​​

 

 

LeNet

  • 这是最早用于数字识别的CNN,标志着CNN的真正面世
  • 7层(1Input+3Cov+1FC+1Output

​​

AlexNet

  • 网络增大(5Cov+3maxpool+1Softmax
  • Data Augmentation:水平翻转、随机裁剪、平移变换、颜色、光照变换;
  • Dropout
  • ReLU
  • LRN归一化层的使用
  • 带动量的随机梯度下降
  • 百万级ImageNet图像数据,GPU实现

 

VGGNet

  • 训练时间长,网络权重规模太大(VGG16 (553MB,VGG19(575MB
  • 规整的网络结构:对于同一输出特征图尺寸,这些网络层有相同的filters,特征图的尺寸减半,特征图的filters翻倍。
  • 引入了3*3 filter和maxpooling/2
  • 网络输入224*224(input_size>=48*48

Inception V1

  • NIN(Network in Network)中引入了1*1 filter,用于降维
  • 增加了网络的宽度和深度
  • 同时使用了1*1,3*3,5*5的卷积,增加了网络
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值