VGG 学习笔记

最新推荐文章于 2025-02-21 17:19:13 发布
最新推荐文章于 2025-02-21 17:19:13 发布
阅读量1.1k 收藏 3
点赞数 2
分类专栏： deep learning 图像处理 文章标签： VGG 神经网络 deep learning 学习教程 VGG net
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangweiwells/article/details/87840101
版权
本文探讨了VGG网络如何通过增加小感受野卷积网络的深度来提高分类正确率，详细分析了预处理、结构特点及实验结果，强调了非线性和spatial context的重要性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

VGG

简介

主要意义

试验了增加小感受野卷积网络层级深度可以提高分类结果的正确率。

预处理

各通道减去RGB在训练集上的均值。

特点
  • 卷积核很小（ 3 × 3 3\times3 3×3 or 1 × 1 1\times1 1×1 ）
  • 通过设置stride和padding使卷积层不改变layer大小
  • 通过max pooling减小layer大小
  • 通过一直增加卷积核的数量增加feature maps的数量
  • 增加了卷积层的深度

结构

结构

在这里插入图片描述

结果

在这里插入图片描述

成果

  • 证明了在一定程度上增加层级深度可以提高分类正确率
  • LRN 效果并不是很明显(相比较A 而言 A-LRN 结果错位率反而稍有上升)
  • B 组和 C 组比： 发现增加非线性有用
  • C 组和 D 组比： 发现考虑spatial context 更重要
  • 作者发现当结构变为19层的时候错误率就不再下降了并提到"but even deeper models might be beneficial for larger datasets." 或许更深层的模型可以更好的适用于更复杂的数据集
  • scale jittering 对于multi-scale image 的训练还是很有用的

为什么

为什么缩小卷积核大小？
  • 作者通过对照试验发现，使用 5 × 5 5\times5 5×5的浅层卷积网络结构的结果不如使用 3 × 3 3\times3 3×3更深层的卷积网络。
  • 使用小卷积网络并增加深度可以获得与大卷积核相同的感受野。“ a stack of two 3×3 conv. layers (without spatial pooling in between) has an effective receptive field of 5×5”
文中提到了 dense evaluation 和 multi-crop evaluation
  • 为什么作者要做dense evaluation 和 multi-crop evaluation？

    fully-connected layers are first converted to convolutional layers (the first FC layer to a 7 × 7conv. layer, the last two FC layers to 1 × 1 conv. layers)

  • 两种 evaluation 互为补充， 并且可以进一步提高正确率，为什么？
  • muti-crop 的结果比dense的好

    Also, multi-crop evaluation is complementary to dense evaluation dueto different convolution boundary conditions: when applying a ConvNet to a crop, the convolved feature maps are padded with zeros, while in the case of dense evaluation the padding for the same crop naturally comes from the neighbouring parts of an image (due to both the convolutions and spatial pooling), which substantially increases the overall network receptive field, so more context is capture

  • 待研究
为什么LRN不实用？
  • 作者提到“ we note that using local response normalisation (A-LRN network) does not improve on the model A without any normalisation layers”
  • 待研究

思考

作者的设计初衷，我想是为了探究加深卷积网络层级，是否可以提高争取率。加深网络层级，带来的一个问题是感受野增大，每张feature map的作用域会随之扩大直至全图。这可能是设计者不愿意看到的，设计者更希望得到更多的机遇合理合理感受野大小的feature maps。因此缩小卷积核则是一个不错的选择。设计者通过对照，设计了多组认为可行的方案，并在方案中添加了诸如 1 × 1 1\times1 1×1卷积核的层级，增加了提取层的非线性。并通过对比C D组发现， 3 × 3 3\times3 3×3卷积核更为合理。设计者一方面缩小卷积核并加深卷积层级，另一方面则增多提取特征channel的数量（增加卷积核数量）试图提取更多的广泛的基于局部的信息为FC 所用。

  • 对照组实验的方法很有借鉴意义，印象最深的即 B C组与 C D组的实验对照。
    • 引入非线性重要
    • 考虑 spatial context 重要
  • dense evaluation 和 multi-crop evaluation
    作者进行dense evaluation的时候把fc转化为卷积层，fc1转化乘了7X7卷积核的卷积层。fc2转化成了1x1卷积层。也就是如图1所示。

代码

待添加

参考文献

https://arxiv.org/pdf/1409.1556.pdf

基于python手写深度学习网络系列（9）为什么要加深网络？VGG、GoogleNet和ResNet，以及书籍推荐和分享。
大白的博客
04-17 752
基于python手写深度学习网络系列（9） 为什么要加深网络？VGG、GoogleNet和ResNet 这里使用的卷积层全都是3×3的小型滤波器，特点是随着层的加深，通道数变大（卷积层的通道数从前面的层开始按顺序以16、16、32、32、64、64的方式增加）。 此外，如图8-1所示，插入了池化层，以逐渐减小中间数据的空间大小；并且， 后面的全连接层中使用了Dropout层。 使用He初...
深度学习笔记（神经网络+VGG+ResNet）
Young_Zn_Cu
08-05 997
激活函数（Activation Function），就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端，旨在帮助网络学习数据中的复杂模式。ReLU（Rectified Linear Unit）是一种常用的激活函数，全称为修正线性单元。它的主要作用是将输入值限制在一个非负的范围内。具体而言，当输入值小于0时，输出值为0；当输入值大于等于0时，输出值等于输入值本身。原理：SGD使用每个样本的梯度来更新模型参数，适用于大规模数据集。优点：简单易用，内存占用小。
VGG 笔记
qq_37497304的博客
05-18 359
VGG 1、VGG原理 相比于 LeNet 网络，VGG 网络的一个改进点是将 大尺寸的卷积核 用 多个小尺寸的卷积核 代替。 比如：VGG使用 2个3X3的卷积核 来代替 5X5的卷积核，3个3X3的卷积核 代替7X7的卷积核。 这样做的好处是： 在保证相同感受野的情况下，多个小卷积层堆积可以提升网络深度，增加特征提取能力（非线性层增加）。 参数更少。比如 1个大小为5的感受野 等价于 2个步长为1，3X3大小的卷积核堆叠。假设是一通道，1个5X5卷积核的参数量为 25，而2个3X3卷积核的参数量为 1
【VGG系列详解】
最新发布
2502_90678230的博客
02-21 527
以下是VGG块的详细说明：VGG块的结构1. 卷积层： - 每个VGG块包含多个连续的3x3卷积层。缺点计算量大：由于包含大量的卷积层和全连接层，VGG模型的计算量和参数数量都较大，训练和推理时间较长。以下是VGG架构的主要特点：主要特点重复的卷积块：VGG架构由多个卷积块组成，每个卷积块包含多个连续的3x3卷积层，随后是一个2x2的最大池化层。加深网络（如VGG系列）优点：1. 更强的特征提取能力：随着网络层数的增加，模型能够学习到更加抽象和复杂的特征，从而提高分类或检测的准确性。
论文阅读笔记：VGG：Very Deep Convolutional Networks
ProYH
01-28 559
论文阅读笔记：Very Deep Convolutional Networks for Large-Scale Image Recognition论文下载地址：Very Deep Convolutional Networks for Large-Scale Image Recognition本文主要包含如下内容：论文阅读笔记Very Deep Convolutional Networks for L
VGG实战
xiaobian_的博客
05-10 685
卷积层参数： 卷积层 conv3conv3conv3 表示卷积核尺寸为 3×33\times33×3，conv3−64conv3-64conv3−64 表示卷积后通道数为 646464，所有卷积步长 stride=1stride=1stride=1，填充方式 padding=samepadding=samepadding=same（即输出大小和输入大小一致），这样卷积操作不会改变图像大小，仅改变通道数。 池化层参数： 池化层 maxpoolingmaxpoolingmaxpooling 的参数均为 2×2.
深度学习总结3——VGG
liu68686343的博客
02-27 494
鼠年一到，大家都在家猫着吧。几个吃野味的害的全国人民一起关禁闭。md，实在是应该qb。 卷积模型从LeNet->AlexNet-VGG->NiN->GoogleNet->ResNet->InceptionV3、V4,最终比较实用的可能还是后面的这些。AlxeNet、VGG更多作为研究的启动，被比较的对象。比较实用的还是后面这些网络结构。 VGG：结构有VGG-11...
VGG笔记.pdf
07-11
这是VGG网络架构论文的中文学习笔记。首先我们来对VGG网络架构进行一个概括： 1. 小卷积核：相比AlexNet，将卷积核全部替换为3*3，极少用了1*1； 2. 小池化层：相比AlexNe，3*3的池化核全部换为2*2的池化核； 3. 层...
深度学习笔记08-VGG-16实现猫狗识别
boooo_hhh的博客
11-29 1208
🍨本文为🔗365天深度学习训练营中的学习记录博客🍖K同学啊在训练模型在 TensorFlow 2.18.0 中，Adam 优化器确实使用 learning_rate 属性，而不是 lr。要注意版本的问题，网络比较复杂，建议用GPU。
VGG16学习笔记
热门推荐
dta0502的博客
03-22 6万+
一. 简述  VGG卷积神经网络是牛津大学在2014年提出来的模型。当这个模型被提出时，由于它的简洁性和实用性，马上成为了当时最流行的卷积神经网络模型。它在图像分类和目标检测任务中都表现出非常好的结果。在2014年的ILSVRC比赛中，VGG 在Top-5中取得了92.3%的正确率。VGG结构图VGG-16VGG模型有一些变种，其中最受欢迎的当然是 VGG-16，这是一个拥有16层的模型。你可以看...
深度学习笔记09-VGG-16实现猫狗识别2
boooo_hhh的博客
12-06 783
🍨本文为🔗365天深度学习训练营中的学习记录博客🍖K同学啊在训练深度学习模型时，动态调整学习率需要注意版本兼容问题。TensorFlow 的优化器属性因版本不同而有所变化，新版本中使用 model.optimizer.learning_rate.assign(lr)，而旧版本中可以用 K.set_value(model.optimizer.lr, lr)。此外，确保学习率的数据类型为浮点数（float），避免因类型不匹配导致报错。
matlab2019 下vgg19 分层可视化
03-06
包括vgg-19 模型，以及vl_imarray,vl_imarraysc 文件，可以分层可视化vgg网络
VGG（论文翻译）
SF_ORION的博客
06-10 2092
VGG（论文翻译） Very Deep Convolutional Networks for Large-Scale Image Recognition 用于大规模图像识别的超深度卷积网络 ABSTRACT 摘要 In this work we investigate the effect of the convolutional network depth on its accuracy in the large-scale image recognition setting. Our main cont
VGG论文原文重点提炼解析
馒头Lynn的博客
02-23 1万+
原论文地址：Very Deep Convolutional Networks for Large-Scale Image Recognition 摘要：    主要研究了深度对卷积网络在大规模图像识别中的准确率的影响。主要贡献是：对使用很小的卷积核（3*3）来增加深度的网络进行了评估，表明通过将深度提升到16-19个权重层，能得到很好的性能。 介绍：    随着卷积网络在计算机视觉领域的应...
VGG的阅读及翻译
写个翻译的博客
07-23 371
1.3个3*3相较于1个7*7---非线性，参数量 2.3*3和1*1---上下文捕捉很重要 3.分类 - 训练时S=256，S=384 S属于[256,384] - 测试1.深度 - 2.测试时用固定尺寸，训练时用尺寸抖动的效果优于训练时用固定尺寸 - 3.网络融和效果更佳 4.定位 - SCR，共享回归函数 - PCR，每一类用一个回归函数 - 训练1.损失函数换成欧式距离 - 2.S=256,S=384 - 3.微调所有层还是微调前两
卷积神经网络模型之——VGG-16网络结构与代码实现
1+1=王的博客
07-18 9922
VGG原文：Very deep convolutional networks for large-scale image recognition：https://arxiv.org/pdf/1409.1556.pdf VGG在2014年由牛津大学Visual GeometryGroup提出，获得该年lmageNet竞赛中Localization Task(定位任务)第一名和 Classification Task (分类任务)第二名。VGG与AlexNet相比，它采用几个连续的3x3的卷积核代替AlexNe
VGG网络详解以及实战
m0_61796189的博客
05-30 3684
前言 VGG 在2014年由牛津大学的视觉几何组 （Visual Geometry Group）提出，主要工作是证明了增加网络的深度能够在一定程度上影响网络最终的性能。 VGG16相比AlexNet的一个创新之处是采取连续的几个3x3的卷积核代替AlexNet中的较大卷积核。这样可以减少训练中的参数并且能够保证具有相同的感受野。 VGG网络结构 下面为VGG的网络结构图，我们以VGG16为例。 在这里我们发现VGG16总体上有13个卷积层和3个全连接层。通常我们把13个卷积层分为5个卷积块（VGG块）。以
计算机视觉经典论文阅读系列1--VGG
Arlenegogogo的博客
02-09 168
计算机视觉经典论文阅读系列1-VGG
VGG学习
jackchoise030的博客
09-03 699
VGG优缺点 VGG优点 VGGNet的结构非常简洁，整个网络都使用了同样大小的卷积核尺寸（3x3）和最大池化尺寸（2x2）。 几个小滤波器（3x3）卷积层的组合比一个大滤波器（5x5或7x7）卷积层好： 验证了通过不断加深网络结构可以提升性能。 VGG缺点 VGG耗费更多计算资源，并且使用了更多的参数（这里不是3x3卷积的锅），导致更多的内存占用（140M）。其中绝大多数的参数都是来自于第一个全连接层。VGG可是有3个全连接层啊！ PS：有的文章称：发现这些全连接层即使被去除，对于性能也没.
TensorFlow学习笔记：从基础到VGG16详解
7. 清华大学在线课程：此知识点可能暗示了文件来源，表明其中包含的学习笔记可能来自清华大学提供的相关在线课程资料。清华大学作为中国顶尖的高等学府之一，在计算机科学和人工智能领域有着深厚的教学和研究基础，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值