Going deeper with convolutions(GoogLeNet)

原文:https://arxiv.org/abs/1409.4842

Abstract

We propose a deep convolutional neural network architecture codenamed Inception, which was responsible for setting the new state of the art for classification and detection in the ImageNet Large-Scale Visual Recognition Challenge 2014 (ILSVRC14). The main hallmark of this architecture is the improved utilization of the computing resources inside the network. This was achieved by a carefully crafted design that allows for increasing the depth and width of the network while keeping the computational budget constant. To optimize quality, the architectural decisions were based on the Hebbian principle and the intuition of multi-scale processing. One particular incarnation used in our submission for ILSVRC14 is called GoogLeNet, a 22 layers deep network, the quality of which is assessed in the context of classification and detection.

摘要

我们提出了一个代号为Inception的深度卷积神经网络架构,该架构负责设置2014年ImageNet大规模视觉识别挑战赛(ILSVRC14)中用于分类和检测的新技术。 该体系结构的主要标志是提高了网络内计算资源的利用率。 这是通过精心设计的设计实现的,该设计允许增加网络的深度和宽度,同时保持计算预算不变。 为了优化质量,架构决策基于Hebbian原则和多尺度处理的直觉。 在我们提交的ILSVRC14中使用的一个特定的化身称为GoogLeNet,一个22层深的网络,其质量在分类和检测的背景下进行评估。

问题

近年来,CNN的发展遵循一个原则,提高网络的深度和宽度可以提升网络的识别能力。 但是这样带来的问题就是网络参数的不断增加,这给计算机的计算能力以及内存提出了更高的要求。为了减少参数和计算量,可以利用稀疏连接替代稠密结构。但最佳的稀疏的卷积神经网络不是那么好得到的。

Inception架构

Inception架构主要是近似最佳的稀疏的卷积神经网络。
在这里插入图片描述
这个网络结构,能够产生稠密的数据,既能增加神经网络表现,又能保证计算资源的使用效率。该结构将CNN中常用的卷积(1x1,3x3,5x5)、池化操作(3x3)堆叠在一起(卷积、池化后的尺寸相同,将通道相加),一方面增加了网络的宽度,另一方面也增加了网络对尺度的适应性(通道相加)。

然而这个Inception原始版本,所有的卷积核都在上一层的所有输出上来做,而那个5x5的卷积核所需的计算量就太大了,在提取高维度特征时,Inception模块会更多,这样需要的计算量就更大了。为了解决这个问题,作者在3x3前、5x5前、max pooling后分别加上了1x1的卷积核,以起到了降维作用,这也就形成了Inception v1的网络结构。
在这里插入图片描述

Inception model优点

Inception model主要优点是提高了网络内计算资源的利用率。 允许增加网络的深度和宽度,同时保持计算预算不变。融合了不同尺度下的特征,使得网络具有更强的泛化能力。

GoogLeNet

GoogLeNet就是有多个 Inception model堆起来的。
在这里插入图片描述
作者:GL3_24
来源:CSDN
著作权归作者所有。转载请联系作者获得授权。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值