Very Deep Convolutional Networks For Large-Scale Image Recognition

最新推荐文章于 2021-07-12 11:03:02 发布
最新推荐文章于 2021-07-12 11:03:02 发布
阅读量611 收藏 1
点赞数
分类专栏： 论文笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/luo3300612/article/details/91039300
版权

Very Deep Convolutional Networks For Large-Scale Image Recognition

原文地址

时间：2014

Intro

本文的VGG网络在2014年的ImageNet竞赛中分别在定位和分类上获得第一和第二，主要的贡献是使用了小的（3×3）卷积核使得网络可以拓展到16-19层深。

ConvNet Configurations

Architecture

整体结构使用了以下的部件

  • 3×3卷积核，stride=1，padding=1
  • 1×1卷积核
  • 下采样通过最大池化操作，size=2，stride=2
  • 下采样位于卷积层之后，但不是每层卷积层都有下采样
  • 最后有三层全连接层，4096-4096-1000
  • 非线性采用ReLU

Configuration

不同网络的具体结构如表格所示
在这里插入图片描述

discussion

与以往的网络不同，VGG没有在第一个卷积层使用大的卷积核（对比AlexNet 的5×5卷积核和ResNet的7×7卷积核），注意两层的3×3卷积核实际感受野是5×5，三层是7×7，那么为什么要使用3×3卷积核呢？

  • 首先，使用3×3卷积核在感受野相同的情况下有更多的非线性层，可以得到更丰富的表示
  • 其次，多个小卷积核的堆叠所需参数更少，假设卷积的输入和输出都是 C C C个channel，那么相同感受野下，三层3×3卷积核的参数就是 3 ( 3 2 C 2 ) = 27 C 2 3(3^2C^2)=27C^2 3(32C2)=27C2个，7×7卷积核的参数就是 7 2 C 2 = 49 C 2 7^2C^2=49C^2 72C2=49C2个，多了81%的参数

1×1的卷积核是为了在不改变感受野的情况下丰富特征的表征

分类框架

训练

训练的时候先训练模型A，然后用模型A的参数初始化更深的模型的参数，模型A权值用 1 0 − 2 10^{-2} 10−2为方差的正态分布来初始化所有偏置值初始化为0

数据是从rescaled的图片中crop的224×224的图片，同时采用随机垂直翻转和RGB颜色变换

测试

测试的图片rescale的大小与训练时不一定一样，使用不同的rescale大小可以提升性能

实现细节

模型在多个GPU上训练，需要约2~3周

分类实验

Single scale

记训练图片的scale为 S S S，测试图片的scale为 Q Q Q，对于固定的 S S S，令 Q = S Q=S Q=S
这里对每个测试图片使用一个scale，实验发现

  • Local Response Normalization（AlexNet中的）对网络帮助不大
  • 网络越深，误差越大
  • 相同深度的网络，使用3×3卷积的D比使用1×1卷积的C更好
  • 使用变化的scale比使用固定的scale效果更好
    在这里插入图片描述

Multi-Scale Evaluation

对每个测试图片使用multi-scale时， Q = { S − 32 , S , S + 32 } Q=\{S-32,S,S+32\} Q={S−32,S,S+32}或 Q = { S m i n , 0.5 ( S m i n + S m a x , S m a x ) } Q=\{S_{min},0.5(S_{min}+S_{max},S_{max})\} Q={Smin​,0.5(Smin​+Smax​,Smax​)}，结果如表格所示，表面multi-scale在测试时效果更好
在这里插入图片描述

Multi-Crop Evaluation

在这里插入图片描述

State of the art 结果对比

在这里插入图片描述

结论

本文通过使用小的卷积核构建更深的网络来得到更好的性能，利用不同的scale方法，在效果上超过当时的state of the art，其CONV-CONV-POOL的设计模式和小卷积核的应用，成为了之后网络设计的一个共识

问题

  • VGG和AlexNet有何不同？
    • VGG使用3×3的小卷积核，相比于AlexNet的5×5卷积核
    • VGG卷积层之间都是互联的，相比于AlexNet在两个GPU上的连接方法
    • VGG更深，且使用CONV-CONV-POOL的网络模式，相比于AlexNet的CONV-POOL-CONV-POOL模式
    • VGG没有使用AlexNet中的LRN
  • VGG和AlexNet有何相同？
    • 都使用卷积+全连接堆叠层的方式
    • 都使用线性整流单元作为非线性层
luputo
关注
专栏目录
VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION
wlw8023diya的博客
09-14 3743
论文：Very Deep Convolutional Networks for Large-Scale Image Recognition 该篇文章介绍了卷积网络深度在大规模图像识别环境中对其准确性的影响。 它主要贡献是使用具有非常小（3×3）卷积滤波器的体系结构对增加深度的网络进行全面评估，这表明将深度推至16-19重量可以实现对现有技术配置的重大改进 层，它公开提供了两个性能最佳的ConvNet模型。 他们讨论了ConvNet架构设计的另一个重要方面—深度。为此,他们修复结构的其他参数,和稳步增长的深度
论文阅读：VGGNet—Very Deep Convolutional Networks For Large-Scale Image Recognition
qq_39109729的博客
10-01 777
论文阅读：VGGNet—Very Deep Convolutional Networks For Large-Scale Image Recognition 1、摘要 ​ 在这篇论文中，作者对卷积神经网络的深度对于其在大规模图像数据集的识别的准确性做了一个完全的评估，特点在于将CNN的网络深度提升到了16-19层，提升了大规模图像的识别准确性；同时有证明了VGG在深度视觉表征中具有较强的泛化能力。 2、引言 ​ 引言部分作者总结了自AlexNet以来CNN在大规模图像识别中的广泛应用，
Very Deep Convolutional Networks for Large-Scale Image Recognition
雨石
10-02 2万+
这篇论文是今年9月份的论文[1]，比较新，其中的观点感觉对卷积神经网络的参数调整大有指导作用，特总结之。关于卷积神经网络(Convolutional Neural Network, CNN)，笔者后会作文阐述之，读者若心急则或可用谷歌百度一下。
Very Deep Convolutional Networks For Large-Scale Image Recognition(VGGnet)
励志的小胡子
03-06 1177
用于大规模图像识别的非常深的卷积神经网络 Abstract(摘要) 在这项工作中，我们研究了卷积网络深度对其在大规模图像识别设置中的准确性的影响。我们的主要贡献使使用非常小()卷积滤波器的架构对越来越深的网络进行全面评估，这表明通过将深度堆到16-19的权重层可以实现对现有技术配置的显著改进。这些发现使我么提交的ImageNet Challe...
【5】Very deep convolutional networks for large-scale image recognition.pdf
08-26
accuracy in the large-scale image recognition setting. Our main contribution is a thorough evaluation of networks of increasing depth using an architecture with very small (3×3) convolution filters, ...
【论文阅读】Very deep convolutional networks for large-scale image recognition
MoFMan的博客
07-08 742
【论文阅读】Very deep convolutional networks for large-scale image recognition
经典网络结构VGG-net《Very Deep Convolutional Networks for Large-Scale Image Recognition》
女王の专属领地
05-04 1034
论文地址：https://arxiv.org/abs/1409.1556论文翻译：http://blog.csdn.net/wangsidadehao/article/details/54311282VGG-Net来自牛津大学Andrew Zisserman 教授的组 (Oxford)，在2014年的 ILSVRC localization and classification 两个问题上分别取得...
VGGNet 阅读理解 - Very Deep Convolutional Networks for Large-Scale Image Recognition
热门推荐
长风破浪会有时，直挂云帆济沧海
03-19 5万+
论文理解 - VGGNet - Very Deep Convolutional Networks for Large-Scale Image Recognition [VGG-Paper] [原文地址 - Very deep convolutional networks for large-scale image recognition] 一篇对 VGGNet 理解比较详细的博客，很长...
（VGG）VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION
M_Y_Y_的博客
07-10 817
本文研究了卷积网络深度对其大规模图像识别设置精度的影响。我们的主要贡献是使用非常小的（3×3）卷积滤波器的架构对深度增加的网络进行深入的彻底评估，这表明通过将深度推到16-19重量层，可以实现对现有技术配置的显著改进。 1 介绍 在本文中，我们讨论了ConvNet架构设计的另一个重要方面——它的深度。为此，我们修复了体系结构的其他参数，并通过增加更多的卷积层来稳步增加网络的深度，这由于在所有层中使用了非常小的（3×3）卷积滤波器是可行的。 2 卷积神经网络配置 2.1 体系结构 在训练期间，我们.
（VGG）Very Deep Convolutional Networks for Large-Scale Image Recognition
椰子奶糖的博客
07-12 648
Very Deep Convolutional Networks for Large-Scale Image Recognition 文章目录Very Deep Convolutional Networks for Large-Scale Image Recognition参考IntroductionConvNet ConfigurationsArchitectureConfigurationsDiscussionClassification FrameworkTraining（参考VGGNet 阅读理解，
VGG——Very Deep Convolutional Networks for Large-Scale Image Recognition
weixin_44853840的博客
05-05 519
目录AbstractquestionmethodanswerIntroductionwhy research？ContributionDetailsArchitectureTrainingTestingConclusion Abstract question 大规模图像识别任务下卷积网络深度对其预测准确率的影响。 method 使用具有非常小的（3×3）卷积滤波器的架构对深度不断递增的网络进行全面评估。 answer 通过将权重层深度推到16-19层可以在现有技术配置下（使准确率）实现显著提升。在Image
VGG: Very Deep Convolutional Networks for Large-Scale Image Recognition
Lorenzo's Oil
10-16 489
一、论文研究背景、成果 1.论文研究背景 自从2012年AlexNet将深度学习的方法应用到ImageNet的图像分类比赛中并取得state of the art的惊人结果后,大家都竞相效仿并在此基础上做了大量尝试和改进 1.小卷积核 在第一个卷积层用了更小的卷积核和卷积stride (Zeiler & Fergus, 2013;Sermanet et al, 2014) 2.多尺度 训练...
VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNTION（翻译）
weixin_34152820的博客
09-09 491
0 - ABSTRACT 　　在这个工作中，我们研究了卷积网络的深度对于它在大规模图像识别设置上的准确率的效果。我们的主要贡献是对使用非常小的卷积核（3×3）来增加深度的网络架构进行彻底评估，这说明了通过将深度增加到16-19层能够比之前最好的业界水平更好。这些发现是我们参加ImageNet Challenge 2014的基础，在这个比赛中我们团队在定位和分类追踪任务上分别获得了第一和第二的名次...
VGG-16、VGG-19(论文阅读《Very Deep Convolutional NetWorks for Large-Scale Image Recognition》)
周周的专栏
08-31 2万+
论文阅读《Very Deep Convolutional NetWorks for Large-Scale Image Recognition》介绍这是卷积神经网络发展的一些主要网络 LeNet（3个卷积层+2个降采样层+1个全连接层）CNN雏形 AlexNet （5个卷积层+3个全连接层+1个softmax层 本文所讨论的VGG就是基于LeNet、AlexNet提出的更深的卷积神经网络
VGG: VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION
TheWaySoFar
03-27 1206
Abstract: 我们的工作是研究更加深的卷及网络对于大规模机器学习的影响. 我们的主要贡献是使用3X3的非常小的卷积层来增加网络的深度改善其性能, 最终的深度在16~19层. 这些发现是基于14年的比赛上的提交, 队伍在目标定位和图像分类方面分别获得了第一和第二.我们同时展示了我们的网络对于别的数据集也有同样的适用性, 他们获得了世界顶尖的水平. 我们已将我们的两种性能最好的Con...
very deep convolutional networks for large-scale image recognition
最新发布
03-17
深度卷积网络是用于大规模图像识别的常用技术。它们通过不断地堆叠卷积层和池化层来增加网络的深度，从而能够更好地提取图像中的特征。在训练过程中，网络会自动学习到图像中的高级特征，如边缘、纹理、形状等，从而...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值