GoogleLeNet(Inception-V1)论文及代码解析

最新推荐文章于 2024-05-02 00:07:07 发布
最新推荐文章于 2024-05-02 00:07:07 发布
阅读量6.3k 收藏 17
点赞数 6
分类专栏： 分类网络 文章标签： Inception-V1 GoogleLeNet classification
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/stesha_chen/article/details/81259857
版权
本文详细解析了GoogleLeNet（又称Inception-V1）论文及其网络结构，该模型在2014年ILSVRC竞赛中表现出色。Inception模块通过结合不同尺寸的卷积层，实现网络的深度和宽度增加，同时减少计算量和过拟合。文章还提供了TensorFlow代码分析，帮助理解模型实现。
摘要由CSDN通过智能技术生成

目录

  • GoogleLeNet论文

  • tensorflow代码分析

  • 小结

GoogleLeNet论文

       GoogleLeNet是2014年ImageNet中ILSVRC14竞赛的冠军，和VGG网络是同一届，VGG网络是当年竞赛的亚军。但是实际上两个网络的TOP-5错误率相差并不多，GoogleLeNet的网络结构相对VGG复杂一些，是一个22层的网络，并且提出了一种Inception的结构，是一个很大的进步。

       论文地址 论文的标题是“Going deeper with convolutions”，跟VGG一样也是遵循需要将网络设计的更深的思想。网络名字取名为GoogleLeNet是为了向CNN网络的开山鼻祖LeNet致敬。

1.前言

      论文中作者花了大量的篇幅来描述当前分类和检测网络取得的成绩，以及遇到的问题，然后引出作者对现状改进的思路。

      众所周知，改进深度神经网络最直接的方式是增加网络的大小，包括增加深度和宽度。增加深度就是增加神经网络的层数，增加宽度就是增加每一层的units个数。但是增加了深度和宽度会带来两个问题：1.因为参数变多而使得网络更加容易overfitting，反而降低了精度。2.会大大增加计算量，而且可能训练出来部分参数最终为0，这样在计算资源有限的情况下浪费了计算资源。所以我们最终的目标是：减少参数，减少计算量，增加深度，增加宽度。

       解决方法就是将全连接替换为稀疏连接结构，但是现有的计算方式对非均匀的稀疏计算效率非常低，所以作者提出了自己的改进方式。

2.Inception模型

inception-v1-block

       上图是作者提出的两种Inception的模型，b模型是a模型的改进版本。

       先说a模型，论文中说是以一种稠密组件去逼近和替代一个最优的局部稀疏结构。我的理解是这种连接模型既会有四种连接方式带来的信息汇总，而且相对直接3x3的Conv进行连接的方式参数反而有所减少。为何参数会有减少呢？举个下图的例子(只是举个例子，并不是真实使用情况)：

        接着作者又发现，虽然参数量是有减少，但是减少的并不是太多，而且如果输入的数据channel值比较大，参数量仍然会比较大，所以作者提出了b模型。b模型相对a模型而言，在使用3x3或者5x5的Conv连接之前用了1x1的Conv进行降维，这样会使参数量再一次减少，并且在1x1Conv后也使用非线性激活就增加了网络的非线性。参数量变化如下图(只是举个例子，并不是真实使用情况)：

        总之，Inception模型的好处是既能增加网络的深度和宽度，又不会增加计算量，而且稀疏连接的方式还能有助于减少过拟合。

3.网络结构

论文中的网络结构如下图：

structure

  • Input为224x224x3的RGB图片，同样减去每个颜色通道的均值(同vgg网络一样)
  • #3x3 reduce表示在3x3Conv之前1x1Conv连接的channel数量，同样#5x5 reduce表示在5x5Conv之前1x1Conv链接的channel数量.
  • pool proj表示inception中max pooling后的1x1Conv连接的channel数量
  • 只计算有参数的层数是22层，所有的卷基层都用Relu激活，包括inception内部的卷积
  • 作者发现去掉最后的FC，改为avg pool，精确度有提升，但是还要保留后面的dropout

另外作者担心这么深的网络越往后信息的传播能力会受损，但是作者发现中间层的网络还带有比较多的信息，因此在inception(4a)和inception(4d)后面增加了一个比较小的网络，做了softmax输出，和最后的softmax输出相加，但是权重设置为0.3.也就是最后的output是softmax2+0.3*softmax1+0.3*softmax0

                                                            inception(4a)处的softmax

                                                     inception(4d)处的softmax

                                               最后output的softmax

对softmax0和softmax1处的小网络的说明：

  • average pool是5x5 filter size，stride是3，inception(4a)会得到4x4x512的output，inception(4d)会得到4x4x528的output
  • Conv 1x1是128个filter，后面跟着Relu进行激活
最低0.47元/天 解锁文章
stesha_chen
关注
  • 6
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
Inception V1理解及pytorch实现
方悔读书迟
07-29 2511
一、Inception V1 用全局平均池化层代替了最后的全连接层 全连接层几乎占据了中大部分的参数量，会引起过拟合，去除全连接层之后模型可以训练的更快且避免了过拟合的情况。 在Inception v1中1*1卷积用于降维，减少参数量和feature map维度。 输入28 * 28 * 192的图像，如果直接通过3 * 3 * 256的滤波器（padding=1，stride=1），输出数据是28 * 28 * 256，参数量是192 * 3 * 3 * 256=44w；如果我们在3*3的滤波器前插入
卷积神经网络中的经典模型（附代码，超详细）
weixin_63670364的博客
05-30 5689
本文主要介绍了LeNet,AlexNet,VGG,InceptionNet,ResNet,DenseNet六个经典的卷积神经网络模型。以它们的特点为基础，开发者可以根据自己的需求选择相应的模块来构建自己的卷积神经网络。
Pytorch深度学习快速入门—LeNet简单介绍（附代码）_lenet代码实现
最新发布
2301_77033340的博客
05-02 73
**输入数据：**S4层的全部16个单元特征map（与s4全相连）卷积核大小：5*5卷积核种类（通道数）：120输出数据（输出特征图output feature map）：1*1**输入数据：**120维向量**输出数据：**84维向量**输入数据：**84维向量**输出数据：**10维向量（1）导包： （2）**定义卷积神经网络：**由于训练数据采用的是彩色图片（三通道），因此与上面介绍的通道数有出入。 （3）**测试网络效果：**相当于打印初始化部分，可以查看网络的结构 （1）导包： （2）下载数据集：
pytorch实现InceptionV1模型（小白学习，详细讲解）
m0_50127633的博客
05-21 1304
Incepti## InceptionV1的模型 首先我们需要把流程图和表中数据对应起来，后续我们实现InceptionV1的时候，需要用到表中的数据。 代码实现 import torch import torch.nn as nn import torch.nn.functional as F class GlobalAvgPool2d(nn.Module): def __init__(self): super(GlobalAvgPool2d, self).__init__()
经典神经网络论文超详细解读（三）——GoogLeNet InceptionV1学习笔记（翻译＋精读+代码复现）
路人贾的博客
12-11 6665
GoogLeNet InceptionV1论文（Going deeper with convolutions）超详细解读。翻译＋总结。文末有代码复现
经典网络-InceptionV1论文及实践
uncle_ll的博客
06-03 1100
Going deeper with convolutions作者：Christian Szegedy, Wei Liu, Yangqing Jia, etc单位：谷歌文章地址：https://arxiv.org/abs/1409.4842项目地址：https://github.com/conan7882/GoogLeNet-Inception提出了一种代号为“Inception”的深度卷积神经网络架构，在2014年ImageNet大规模视觉识别挑战(ILSVRC14)中分类和检测任务中的达到了最好的sota
1409.4842-GoogLeNet-inception-V1-Going deeper with convolutions.pdf
09-09
inception-V1 论文 1409.4842-GoogLeNet-inception-V1-Going deeper with convolutions.pdf
inception-resnet-v1-part2
07-11
tensorflow, models, slim pre-trained model: inception-resnet-v1-201608-30.tar.gz
inception-resnet-v1-part3
07-11
tensorflow, models, slim pre-trained model: inception-resnet-v1-201608-30.tar.gz
inception-resnet-v1-part0
07-11
标题 "inception-resnet-v1-part0" 指向的是一个基于TensorFlow框架的深度学习模型，Inception-ResNet-v1的预训练部分。这个模型是深度学习领域的一个重要成果，它结合了Inception架构和ResNet的精髓，为图像识别...
inception-resnet-v1-part24
07-11
tensorflow, models, slim pre-trained model: inception-resnet-v1-201608-30.tar.gz
goolenet论文（4篇）
12-04
[v1] Going Deeper with Convolutions, 6.67% test error, http://arxiv.org/abs/1409.4842 [v2] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift, 4.8% test error, http://arxiv.org/abs/1502.03167 [v3] Rethinking the Inception Architecture for Computer Vision, 3.5% test error, http://arxiv.org/abs/1512.00567 [v4] Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning, 3.08% test error, http://arxiv.org/abs/1602.07261
googLeNet 深度学习四篇论文
09-09
googLeNet 深度学习四篇论文 ： Inception-v1 Inception-v2 Inception-v3 Inception-v4
GoogleNet经典论文4篇
11-26
欢迎想入门CNN和深度学习的朋友们阅读论文。 GoogleNet始于LeNet-5，一个有着标准的堆叠式卷积层冰带有一个或多个全连接层的结构的卷积神经网络。通常使用dropout来针对过拟合问题。  为了提出一个更深的网络，GoogLeNet做到了22层，利用inception结构，这个结构很好地利用了网络中的计算资源，并且在不增加计算负载的情况下，增加网络的宽度和深度。同时，为了优化网络质量，采用了Hebbian原理和多尺度处理。GoogLeNet在分类和检测上都取得了不错的效果。  最近深度学习的发展，大多来源于新的想法，算法以及网络结构的改善，而不是依赖于硬件，新的数据集，更深的网络，并且深度学习的研究不应该完全专注于精确度的问题上，而更应该关注与网络结构的改善方面的工作。
一文总结经典卷积神经网络CNN模型
全栈O-Jay的博客
04-01 5679
总结从1998年至今的优秀CNN模型，包括LeNet、AlexNet、ZFNet、VGG、GoogLeNet、ResNet、DenseNet、SENet、SqueezeNet、MobileNet。了解巨佬们的智慧结晶，学习算法上的思路和技巧，便于我们自己构建模型，也便于我们做迁移学习。
四、经典网络7（Inception V1）
myani的博客
05-03 1221
Inception v1 相比于 GoogLeNet 之前的众多卷积神经网络而言，inception v1 采用在同一层中提取不同的特征（使用不同尺寸的卷积核），并提出了卷积核的并行合并（也称为 Bottleneck layer），如下图 这样的结构主要有以下改进： 1. 一层 block 就包含 1x1 卷积，3x3 卷积，5x5 卷积，3x3 池化(使用这样的尺寸不是必需的，可以根据需要进行调整)。这样，网络中每一层都能学习到“稀疏”（3x3、5x5）或“不稀疏”（1x1）的特征，.
深度学习的几种常用网络LeNet、AlexNet、GoogLeNet、VGG、ResNet：
易大飞
09-25 2787
很全的介绍，非常喜欢，感谢作者的分享：http://www.cnblogs.com/52machinelearning/p/5821591.html
GoogLeNet论文详解
qq_38807688的博客
11-19 4891
原文地址： https://arxiv.org/pdf/1409.4842.pdf 论文研究目标： 利用赫布理论和多尺度处理直觉设计一种增加深度和宽度的提高内部计算资源利用率的（同时保持了计算预算不变）网络。 传统提神网络性能的方法和缺点： 最简单的CNN性能提升办法是增大网络的depth和width，这里的width指的是每一层的神经元数量。这种方式要两个缺点： 1.增加...
Inception-Resnet-v1、Inception-Resnet-v2学习笔记（附Pytorch代码）
你好，明天，，的博客
02-14 4158
介绍Inception-Resnet-v1和IInception-Resnet-v2网络结构，并基于pytorch实现这两种网络结构。nception-V4在Inception-V3的基础上进一步改进了Inception模块，提升了模型性能和计算效率，但没有使用残差模块， Inception-ResNet将Inception模块和深度残差网络ResNet结合，提出了三种包含残差连接的Inception模块，残差连接显著加快了训练收敛速度。
给出Inception-ResNet-v1参考资料和网站
09-18
1. 论文：Inception-ResNet-v1的原始论文是由Christian Szegedy、Sergey Ioffe等人于2017年发表的，题为"Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning"。你可以在谷歌学术或...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值