VGG 网络结构详解与复现

本文详细介绍了VGG网络结构,探讨了连续小卷积核替代大卷积核的优势,并提供了VGG网络在CIFAR10数据集上的复现过程,包括关键代码和解决梯度消失问题的策略。
摘要由CSDN通过智能技术生成

VGG 网络结构详解与复现

部分参考了Amusi的知乎ZHUAN专栏文章《一文读懂VGG网络》

前言

VGG = Visual Geometry Group, 是Oxford的同名视觉组提出的深度网络。论文中提出了VGG-11, VGG-13, VGG-16, VGG-19等网络。其中全连接层数量都为3层。

VGG 相比于AlexNet的一个重要改进是用连续的3x3卷积代替了AlexNet中较大的卷积核。

使得多次小规模卷积(e.g. 三次 3 x 3 卷积)之后得到特征图具有与单次大规模卷积(e.g. 一次 7 x 7卷积)相同的感受野。对于给定的感受野,采用堆积小卷积核的方式增加了非线性层的数量,使得神经网络能够学到更复杂的模式,同时付出更小的计算代价(参数量更少)

  • 参数量计算:

    对于一个三通道输入:

    • 7 x 7 卷积,共使用n组卷积核: 7 × 7 × n = 49 n 7 \times 7 \times n = 49n 7×7×n=49n
    • 3个3 x 3 卷积进行堆叠,共使用n组卷积核: 3 × 3 × 3 × n = 27 n 3 \times 3 \times 3 \times n = 27n 3×3×3×n=27n
什么是感受野?

感受野是CNN中的一个重要概念(同时也是基础中的基础)。所谓感受野即是卷积层输出的特征图上的某一个像素在输入图片上对应的区域。

我们来回顾一下感受野大小的计算公式:
r l = r l − 1 + ( k l − 1 ) × ∏ i = 0 l − 1 s i r_l = r_{l-1} + (k_l - 1) \times \prod_{i=0}^{l-1}s_i r

  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值