带你俯瞰经典CNN网络--AlexNet & VGG & GoogLeNet & ResNet一起和大佬们灵感互动

最新推荐文章于 2023-05-16 11:25:37 发布
最新推荐文章于 2023-05-16 11:25:37 发布
阅读量319 收藏 3
点赞数 1
分类专栏： 深度学习 文章标签： 神经网络 深度学习 人工智能 卷积神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/coolyoung520/article/details/109782523
版权

带你俯瞰经典CNN网络–AlexNet & VGG & GoogLeNet & ResNet一起和大佬们灵感互动

 

概述

本文主要目的是带各位小伙伴畅游一下经典的CNN网络发展历程，感受一下大佬的灵感闪光点，让我们对目前深度学习CNN的最新前沿技术发展有个上帝视角的了解。毕竟，关注这篇文章的小伙伴都是深度学习的爱好者，为了赶上技术发展，我们必须站在巨人的肩膀，知道什么是好的，可以直接用，什么是可以再优化的。
 
友情提醒，阅读本文需要一定CNN基础哦，这样食用风味更佳！

  • 卷积核运算
  • 池化操作运算
  • 一定的网络结构整体观
  • 深度学习的主要流程
    （主要需要这些基础知识是为了能搞懂每一层神经网络的结构变化。）

 
 

经典CNN网络发展历程

在这里插入图片描述
 
 

AlexNet网络结构图

 

1整体感受一下网络结构

 

网络第一部分
在这里插入图片描述
网络第二部分
在这里插入图片描述
网络第三部分
在这里插入图片描述
网络第四部分
在这里插入图片描述
模型数据量分析
在这里插入图片描述
好玩的事ヾ(=･ω･=)o
小伙伴们可能已经发现啦，这个模型为啥分成了上下两条主线。。。
简单的说就是在当时环境下，模型一个显卡装不下，只能拿两个显卡一起上，这也是为难了当时的大佬们呀！

这也反应了一个事实呀，深度学习上世纪概念已经有了，但那时候如果说自己研究深度神经网络，就会被嘲笑很LOW，主要还是数据不到位，算力不够呀~

 
 

白嫖大佬们的闪光点

  • 第一次使用RELU作为激活函数
    这个激活函数目前都还在用哦，是相当棒的。
     

  • 数据增强思想（现在都还在用）
    在这里插入图片描述
     

  • 使用了dropout思想（相当好用，现在也在用）
     
     

VGG模型网络结构图

 

1整体感受一下网络结构

在这里插入图片描述

在这里插入图片描述
 

白嫖大佬们的闪光点

核心贡献就是可以利用多个3x3的卷积核，代替5x5的卷积核，能大大缩减计算量。

在这里插入图片描述

 
 

GoogLeNet网络结构

 

1整体感受一下网络结构

在这里插入图片描述
 

白嫖大佬们的闪光点

googLeNet创新点就是提出了一种多卷积核的组合模型，核心思想就是不需要人为限制死卷积核的大小，可以多种组合，让机器自己学习选择用什么尺寸。
在这里插入图片描述
 
还有一个巨大贡献就是使用1x1的卷积，咋一看没用，实际上能够减轻模型的数据量，在现在轻度模型使用很多。
在这里插入图片描述
 
Batch Normalization(匹归一化) 现在也在用的一种手段
核心思想就是虽然一开始已经进行归一化，但计算过程中，会改变数值的分布，在计算过程中及时进行归一化，有利于中间的计算。

 

使用全局平均池化GAP代替全连接，直接减少了全连接层带来的模型体积剧增的问题。（目前算是一个针对自己模型小小改进）
在这里插入图片描述
 
 

ResNet网络结构

 

1整体感受一下网络结构

在这里插入图片描述
 

白嫖大佬们的闪光点

 
ResNet网络最大的贡献点就是使用了残差网络–加快了收敛速度
解决了反向传播不稳定的问题，虽然RELU已经部分解决了梯度消失的问题，但反向传播的性能真的在深度学习中影响很大
在这里插入图片描述

aiAIman
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
经典卷积神经网络模型-合集(AlexNet，VGG16Net，GoogLeNet，ResNet18).zip
01-29
这是一个合集——经典卷积神经网络模型，包含AlexNet，VGG16Net，GoogLeNet，ResNet18等四个主要的经典卷积神经网络的code，也包含注释。所有模型均已调试通过，且已经记录博客。跑的时候，建议使用GPU来跑，否则...
深度学习之经典CNN模型
AndyJ的学习之旅
06-13 1036
1、LeNet-5 论文 这个可以说是CNN的开山之作，由Yann LeCun在1998年提出，可以实现对手写数字、字母的识别。结构如下： Input(32×32)–>CONV(6 filters)–>AvgPOOL–>CONV(16 filters)–>AvgPOOL–>FC(120)–>FC(84)–>FC(10) 2、AlexNet 论文 AlexNet于2012年由Alex Krizhevsky, Ilya Sutskever 和 Geoffrey Hin
深度学习04-CNN经典模型
liaomin416100569的专栏
05-16 7841
卷积神经网络（CNN）是深度学习中非常重要的一种网络结构，它可以处理图像、文本、语音等各种类型的数据。以下是CNN的前4个经典模型LeNet-5是由Yann LeCun等人于1998年提出的，是第一个成功应用于手写数字识别的卷积神经网络。它由7层神经网络组成，包括2层卷积层、2层池化层和3层全连接层。其中，卷积层提取图像特征，池化层降低特征图的维度，全连接层将特征映射到对应的类别上。LeNet-5的主要特点是使用Sigmoid激活函数、平均池化和卷积层后没有使用零填充。
经典CNN模型
dayuhaitang1的博客
06-16 4199
学习了一段深度学习之后，对经典的CNN模型整理了一下。 文章目录一、 LeNet-51.1简介1.2网络结构二、 AlexNet2.1简介2.2网络结构三、 VGG-163.1简介3.2网络结构四、 GoogLeNet4.1简介4.2网络结构五、 ResNet5.1简介5.2网络结构 一、 LeNet-5 1.1简介 LeNet模型，这是一个早期用来识别手写数字图像的卷积神经网络，它的名字来源于LeNet论文的作者Yann LeCun。虽然以现在的眼光看来，LeNet模型结构与设计思想相对简单，但它却代
一些经典 CNN
DeepRoad
03-09 337
在计算机视觉的发展过程中，出现了很多经典的卷积神经网络模型，它们对后来的研究有很大影响，这篇文章简要谈谈 LeNet-5、AlexNet 和 VGGNet. LeNet-5 LeNet-5 是由 LeCun 在 1998 年的一篇论文中提出的，与今天的一些神经网络相比，LeNet-5 是一个小型神经网络，它只有大约 60000 个参数，而今天经常会有包含千万到亿量级参数的神经网络，我们先来看一...
计算机视觉中的 CNN&Transformer&MLP Backbone网络模型设计前沿研究总结 (持续更新)
weixin_42716570的博客
05-17 2940
简介 随着Vision Transformer的发展，利用CNN与Transformer相结合、基于纯Transformer设计的网络架构层出不穷。与此同时，相当一部分研究聚焦于探讨Transformer的必要性，并由此出现了多层感知机(Multi layer perceptron, MLP)、傅里叶变换(Fourier transform)等替代Transformer组件构建backbone的研究。 本文力图将现有前沿同Transformer相关或力图替代Transformer结构的相关研究汇总到一起，将
tensorflow-cnn-finetune:使用TensorFlow对AlexNet，VGGNet和ResNet进行微调
04-30
张量流-cnn-finetune 这个仓库是关于使用TensorFlow对一些著名的卷积神经网络进行微调的。 ConvNets： 要求： Python 2.7或3.x Tensorflow 1.x（已通过1.15.1测试） OpenCV2（用于数据扩充）数据集文件您需要设置两...
PyTorch构建LeNet、AlexNet、VGGNet、GoogLeNet、ResNet训练MNIST数据集
最新发布
09-25
1、MNIST数据集处理、加载、网络初始化、测试函数 2、训练函数、PyTorch构建LeNet网络 3、PyTorch从零构建AlexNet训练MNIST数据集 4、PyTorch从零构建VGGNet训练MNIST数据集 5、PyTorch从零构建GoogLeNet训练MNIST...
HorizonNet:AlexNet，VGG，GoogLeNet，ResNet和DenseNet的分类代码
04-02
视频问答数据集可视化加载和可视化视频问答中的不同数据集。项目结构$videoqa_dataset_visualization |──results # result image |──msvd.png |──msrvtt.png |──tgif.png |──ui.png |──mainwindow.py # ...
经典卷积神经网络模型—AlexNet，VGG，GoogLeNet
01-20
AlexNet 特征 8层变换，其中有5层卷积和2层全连接隐藏层，以及1个全连接输出层。 将sigmoid激活函数改成了更加简单的ReLU激活函数。 用Dropout来控制全连接层的模型复杂度。 引入数据增强，如翻转、裁剪和颜色变化，...
四大经典CNN架构之一(ALexNet)
12-21
本资源详细解读了经典论文ImageNet Classification with Deep Convolutional Neural Networks，主要介绍ALexNet的架构、特点、计算流程
CNN经典网络模型-论文合集【综述】
02-21
CNN经典网络模型-论文合集【综述】，LeNet AlexNet GoogleNet ResNet CNN
[深度学习] 残差神经网络Resnet
心宝的博客
09-16 427
残差网络解决了什么，为什么有效？ - 知乎 Resnet 收敛速度更快、解决了训练难度过大、网络退化等问题。
经典CNN模型介绍
Ibelievesunshine的博客
10-30 2484
一、LeNet-5 论文：http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf 这个可以说是CNN的开山之作，由Yann LeCun在1998年提出，可以实现对手写数字、字母的识别。结构如下： LeNet-5 图中的 subsampling，即“亚采样”，就是我们前面说的pooling，因为pooling其实就是对原图像进行采样的...
经典CNN网络（Lenet、Alexnet、GooleNet、VGG、ResNet、DenseNet）
热门推荐
北落师门XY的博客
07-21 1万+
Lenet（1986） 主要用于识别10个手写邮政编码数字，5*5卷积核，stride=1，最大池化。 Alexnet（2012） 卷积部分都是画成上下两块，意思是说把这一层计算出来的feature map分开，但是前一层用到的数据要看连接的虚线。 引入Group群卷积概念，最早是为了应对训练时硬件限制问题，额外的好处是减少参数，抑制过拟合，具体做法是：假设上一层的输出fea...
ResNet深度残差网络
qq_37497304的博客
05-24 423
ResNet 论文：“Deep Residual Learning for Image Recognition” 参考资料： https://www.cnblogs.com/shine-lee/p/12363488.html https://www.bilibili.com/video/BV1vb4y1k7BV?p=4 面临的问题 ResNet解决的是深度神经网络的“退化”（degradation）问题。对于卷积神经网络，网络的深度对于最终网络的表现性能至关重要，从vgg、GoogLeNet等网络就可以
CNN经典架构
WYJ的博客
09-07 1962
PyTorch实现CNN的5种经典架构，欢迎相互学习交流！
经典CNN卷积神经网络发展史
RayChiu757374816的博客
11-19 6710
本文详细介绍了CNN卷积神经网络的历史发展历程，以及详细分析了各阶段具有代表性的网络，如LeNet AlexNet VGG GoogLeNet ResNet等
残差网络ResNet最全分析
baicaiBC3的博客
01-07 4147
论文的翻译 一 从理论上分析，越深的网络就会有越好的学习能力可以整合图像的低维、中维、高维的信息。 1.越深的网络是不是就只是叠加层数这么简单呢? 会产生梯度的爆炸或者消失，严重影响学习速率。 针对这个问题，我们可以通过归一的初始化和中间的归一化层得到缓和（增加BN） 随着网络结构的深度加深又会出现另一个问题：退化 退化：随着网络深度的增加，准确度达到饱和然后迅速下降。不能用过拟合来解释，因为在train集上的精度也下降。 图1分别表明了test和train的两种不同层网络随着迭代而时间准确率的变化。 退化
Alexnet_经典的CNN模型架构-LeNet、AlexNet、VGG、GoogleLeNet、ResNet
05-12
除了AlexNet之外，还有一些其他经典的CNN模型架构，如VGG、GoogleLeNet、ResNet等，它们都在不同的任务上表现出色。VGG模型采用了更深的网络结构，GoogleLeNet使用了Inception模块来有效地减少参数量，ResNet则采用...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值