GooLeNet V1 网络学习

GoogLeNet V1

研究背景以及研究成果

ILSVRC比赛的分类冠军、检测冠军、定位亚军

研究意义

  • 开启多尺度
  • 1x1卷积广泛应用
  • GoogLeNet系列

相关研究

  • NIN:首个采用1x1卷积的卷积神经网络,舍弃全连接层,大大减少了网络参数
  • 多尺度Gabor滤波器提取特征
  • 一起激发的神经元连接在一起

模型设计

多尺度卷积

不同尺度滤波器的尺度是不一样的,感受野不同。采用多尺度卷积能够形成特征多样性

1*1卷积

采用了多尺度卷积就会导致:1.数据量激增 2.计算量增加
针对这个问题,文章提出了采用1*1卷积先降低维度
在这里插入图片描述

池化保留特征

在进行多尺度卷积的时候,增加了max pooling,一定程度上保留了输入的特征,但是换来的是较大的计算量,所以在后面接了一个1*1卷积去降低计算量。

关于这里是否交换下位置?
交换位置之后,计算量变大了。因为11就算先降维,但是后面接了33的卷积,计算量还是比较大

中间层输出辅助函数

通过增加中间辅助函数,能够很好的起到防止梯度消失的问题,也在一定的程度上面起到防止过拟合的效果(后面的文章证明这个方法无效
在这里插入图片描述

训练技巧

  • 图像尺寸均匀分布在8% - 100%之间
  • 长宽比在[3/4, 4/3]
  • 亮度、饱和度和对比度的扰动
  • 8epoch学习率下降4%(谷歌这种做法只能说是美刀玩家)

测试技巧

  • multi-crop测试

将一张图变成144张图,即:4*3*6*2

step1:等比例缩放短边至256、288、320、352四种尺寸

step2:在长边裁剪出3个正方形,左中右或上中下,三种尺寸

step3:左上、右上、左下、右下、中心、全局resize,六个位置

step4:水平镜像

  • modle fusio

比赛上面的常规套路

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
GooLeNet V1,GooLeNet V2,GooLeNet V3,GooLeNet V4是一系列的卷积神经网络架构,由Google公司提出,用于图像分类任务。它们各自有一些特点和联系。 1. GooLeNet V1(也称为Inception V1)于2014年提出。它首次引入了"Inception模块"的概念,该模块使用多个不同大小的卷积核和池化操作,并将它们的输出拼接在一起,以提取多尺度的特征。GooLeNet V1具有较深的网络结构(22层),有效地解决了梯度消失问题,并在ILSVRC 2014图像分类挑战中取得了较好的性能。 2. GooLeNet V2(也称为Inception V2)于2015年提出。它在GooLeNet V1的基础上进行了改进,主要包括:引入了Batch Normalization层以加速网络收敛;使用更小的卷积核和更深的网络结构,以增加网络的非线性能力;使用"Inception-ResNet"模块来解决网络深度增加导致的性能下降问题。GooLeNet V2在ILSVRC 2015图像分类挑战中取得了更好的性能。 3. GooLeNet V3(也称为Inception V3)于2015年提出。它在GooLeNet V2的基础上进一步改进,主要包括:引入了更加复杂的Inception模块(如分解卷积、并行卷积等)以提高特征提取能力;引入了RMSprop优化器和辅助分类器来加速网络训练;增加了网络的深度和宽度以提高性能。GooLeNet V3在ILSVRC 2016图像分类挑战中取得了更好的性能。 4. GooLeNet V4(也称为Inception V4)于2016年提出。它是在GooLeNet V3的基础上进一步改进的,主要包括:使用更加复杂的Inception模块(如分解卷积、并行卷积等)以提高特征提取能力;使用更深的网络结构和更大的mini-batch大小以提高性能;引入了"Stem模块"和"Reduction模块"以增加网络的非线性能力和减少特征图的尺寸。GooLeNet V4在ILSVRC 2017图像分类挑战中取得了更好的性能。 总的来说,GooLeNet系列模型通过引入多尺度、多通道的Inception模块,以及其他一些改进策略,极大地提高了图像分类任务的性能。每个版本都在前一个版本的基础上进行了改进和优化,取得了显著的效果提升。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值