深度学习第四课——深度卷积网络（week 2）

清园暖歌

已于 2022-11-28 09:33:20 修改

阅读量1.4k

点赞数

分类专栏：深度学习文章标签：深度学习 cnn 神经网络计算机视觉人工智能

于 2022-11-27 22:20:03 首次发布

本文链接：https://blog.csdn.net/qq_47941078/article/details/128071059

版权

深度学习专栏收录该内容

11 篇文章 0 订阅

订阅专栏

本文探讨了深度卷积网络的发展，从经典的LeNet-5、AlexNet到VGG-16，解析了它们的结构和优势。接着介绍了残差网络(ResNets)及其解决深度学习中梯度消失问题的机制。此外，还详细阐述了网络中的网络（Inception网络）和1×1卷积的应用，以及数据增强在深度学习中的重要性。最后，讨论了迁移学习的实践策略和当前深度学习的现状。

摘要由CSDN通过智能技术生成

二、深度卷积网路

2.1 经典网络结构

2.1.1 LeNet - 5

LeNet - 5 可以识别手写数字集，是针对灰度图像训练的

如下例：

先用6个过滤器，f=5，s=1，输出28×28×6，再池化，再用16个过滤器，再次池化，这一层有5×5×16=400个节点，下一层为全连接层，每个节点有120个神经元；但有时还会从这400个节点中抽取一部分节点构建另一个全连接层，利用这最后的84个节点得到最后的输出

可以看出，随着网络深度的加深，图像的高度和深度都在缩小，信道数量在增加

大约有 6w 个参数

2.1.2 AlexNet

用 227×227×3 作为输入，使用96个过滤器，f=11，s=4，构建池化层，same卷积和256个过滤器后后变成27×27×256，再池化，再做same卷积，384个过滤器；在做一个相同的3×3的卷积，然后再做一次，过滤器256个，最后在进行一次最大池化，缩小为6×6×256=9216个单元，然后是全连接层，使用softmax函数输出，看他是1000个可能的对象中的哪一个

和前面的 LeNet - 5 很类似，只不过大了很多，AlexNet 包含了约 6000w 个参数，当用于训练图像和数据集时，AlexNet能够处理非常相似的基本构造模块，这些模块往往包含大量的隐藏单元或数据。另一个比 LeNet - 5 更出色的原因是，它使用了ReLu激活函数，

局部响应归一化层（LRN）：选取一个位置穿过所有信道，进行归一化，动机是对于这张13×13的图像中高度每个位置来说，我们可能并不需要太多的高激活神经元，但后来发现LRN好像并不能起到很大的作用

2.1.3 VGG - 16

VGG 也叫 VGG - 16，VGG - 16网络没有那么多参数，这是一种只需要专注于构建卷积层的简单网络。

首先用3×3、步幅s=1的过滤器构建same卷积层，再构建最大池化层，f=2，s=2，因此VGG - 16的一大优点就是确实简化的神经网络结构

首先用两个相同的卷积层卷积，在构建池化层，减半后；再连续两个卷积层，再池化，输出56×56×128，在进行3次卷积后池化，在卷积三次，再池化；如此进行几轮后，得到7×7×512，进行全连接，得到4096个单元，然后softmax激活，输出从1000个对象中识别的结果。

VGG - 16中的16是指这个网络包含16个卷积层和全连接层，约有1.38亿个参数；主要缺点是需要训练的特征数量非常巨大。VGG - 16和VGG - 19几乎不分上下，所以很多人还是喜欢VGG - 16

可以看出，图像的缩小比例和信道增加的比例是有规律的

2.2 残差网络（ResNets - Residual Networks）

非常非常深的网络是很难训练的，因为存在梯度消失和梯度爆炸的问题。这节课，学习远眺连接，他可从某一网络层获得激活，然后迅速反馈给另外一层，甚至是神经网络的更深层，我们可以利用远眺连接构建能够训练深度网络的ResNets，有时深度能超过100层

ResNets 是由残差块构建的，什么是残差块？（ResNets 发明者是何恺明、张翔宇、任少卿、孙剑）

如图，是一个两层的神经网络，再L层激活得到a[l+1]再次激活得到a[l+2]。

计算过程是从 a[l] 开始，首先进行线性激活，算出z[l+1] 然后通过 ReLu，非线性激活得到 a[l+1]，a[l+1] = g(z[l+1])，再次进行线性激活，得到z[l+2]，再进行ReLu，得到 a[l+2]，ReLu指非线性函数

而残差网络中有一点变化，我们将 a[l] 直接向后，拷贝到神经网络的深层，走一个结晶（short cut）再ReLU非线性激活前加上 a[l] 。意味着最后一个等式去掉了，取而代之的是另一个ReLU非线性函数，仍然对z[l+2]进行g函数处理，但这次要加上 a[l]，也就是加上了这个 a[l] 产生的一个残差块；a[l] 插入的时机是线性函数之后，非线性激活之前。还有一个术语“远跳连接”

远跳连接（skip connection）：就是指a[l] 跳过一层或好几层，从而将信息传递到神经网络的更深层

所以ResNets网络就是通过将很多这样的残差块堆积在一起，形成一个深度神经网络，

要把下面的普通网络，变成ResNet的方法就是加上所有的远跳连接，或者说捷径

如下图，5个残差块连接在一起，构成一个残差网络，

如果用其他算法，而没有多余的残差、捷径，会发现随着网络深度的加深，训练错误会减少，然后增多；理论上，随着深度的加深，应该越来越好才对，也就是说神经网络深度越深越好，但是如果没有残差网络，对于普通网络而言，深度越深意味着用优化算法越难训练，训练错误会越来越多。而有了ResNet，网络深度越深，效果越好，也许另一个角度来看，越深会显得网络更臃肿，但确实再训练深度网络方面非常有效

2.3 残差网络为什么有用

假设有一个大型神经网络，其输入为X，输出激活值为 a[l]，如果想增加这个网路的深度，一次添加两层，输出为 a[l+2]，把这添加的两层看作一个ResNet块，即具有近路连接的残差块。

为方便说明，假设整个网络都是用ReLU激活函数，所有激活值都大于等于0，包括输入x的非零异常值，因为relu输出的值要么是0，要么是正数

随着模型的不断学习，如果使用了正则化（一种可以使w值逐渐变小的方法），w值就会越来越小。这可能会使后面的神经元的输出值都非常小（或是0）

这里也假设了b的值也会越来越小这时候如果没有使用残差快那么wa+b的值就会成为0

还有最重要的就是，当反向传播计算梯度的时候，由于输入的小，梯度就会消失，这时候相当于后面的神经元什么都没有学习到，因为梯度不再下降了，或者说下降的很小；但是引入残差块，就算w b为0，激活值也不会为0，从而解决了梯度消失和梯度爆炸的问题

结果表明，残差块学习这个恒等式函数残差块并不难，跳远连接使我们很容易得出 a[l+2] = a[l]，这意味着即使给神经网络增加了这两层，它的效率也并不逊色于更简单的神经网络，因为学习恒等函数对他来说很简单。尽管它多了两层，也只是把 a[l] 的值赋给 a[l+2]。即 这保证了深度的增加不会给模型带来负面影响，至少不会比简单网络差

所以给大型神经网络增加两层，不论是把残差块添加到神经网络的中间还是末端位置，都不会影响网络的表现，当然我们的目标不仅仅是保持网络效率，还要提升它的效率，想象一下，如果这些隐层单元学到一些有用信息，那么它可能比学习恒等函数表现得更好。

而这些不含有残差块或跳远连接的深度普通网络情况就不一样了，当网络不断加深时，就算是选择用来学习恒等函数的参数都很困难

残差网络起作用的很大原因就是这些残差块学习恒等函数非常容易，能确定网络性能不会受到影响，很多时候甚至可以提高效率，或者说至少不会降低网络效率

其他理解：

W[l+2],b[l+2]就相当于一个开关，而是否把这两个参数置为0就要看反向传播，网络最终能够知道到底要不要skip，只要让这两个为0，就可以达到增加网络深度却不影响网络性能的目的

何凯明说过其实alexnet是解决太深导致梯度消失，因为随着层数的增加计算出的梯度会慢慢变小，可以映射到激活值会慢慢变小，之后他就想加一个远眺链接就可以保证无论中间多少层，最终两端激活值大体上不改变

残差网络另一个值得讨论的细节是，假设z[l+2]与a[l]具有相同维度，所以ResNets使用了许多相同卷积，所以这个 a[l]的维度等于这个输出层的维度，因而实现这个跳远连接，因为同一个卷积保留了维度，所以很容易得出这个短连接

如果输入输出是不同的维度，a[l]是128，a[l+2]是256，再增加一个矩阵就在增加一个矩阵 Ws，Ws是一个256×128维度的矩阵，所以Ws a[l]的维度是256。不需要对Ws做任何操作，他是网络通过学习得到的矩阵或参数，他是一个固定矩阵，padding值为0，用0填充a[l]，其维度是256

一个图像分类的例子，这是普通网络，输入一张图片，有多个卷积层，最后输出了一个softmax，如何转化成resnet，只需添加跳远连接。无论这些层是什么类型，都需要调整矩阵Ws的维度，普通网络和ResNet网络常用的结构是conv，conv，conv，pppl之类依次重复，最后有一个通过softmax进行预测的全连接层

2.4 网络中的网络及1×1卷积

使用1×1卷积，如果是上例 6×6×1 的图片而言，1×1卷积效果不佳，如果是 6×6×32 的图片，那么使用1×1 过滤器进行卷积效果更好。有时也被称为Network in Network

具体来说，1×1卷积所实现的功能是遍历这36个单元格，计算左图中32个数字和过滤器中32个数字的元素智能乘积，然后应用ReLU非线性函数

以其中一个单元格为例，他是这个输入层上的某个切片，这个1×1×32过滤器中的32个数字可以理解为：一个神经元的输入是32个数字，乘以相同高度和宽度上某个切片的32个数字，这32个数字具有不同信道，乘以32个权重，然后应用ReLu非线性函数，输出相应的结果

所以1×1卷积可以从根本上理解为这32个单元都应用了一个全连接神经网络，全连接层的作用是输入32个数字和过滤器数量，标记为nc[l+1]，在36个单元上重复此过程

即 把同行同列的32个数看作是神经元输入, 把filter的32个数看成是权重, 结果就会得到一个输出, 经过ReLu函数, 获得一个输出, 对于多个filter, 就有多层的输出

如果要把一个 28×28×192 的图片缩小成 28×28×32 的就可以用32个1×1 的过滤器，严格来讲，每个过滤器的大小都是 1×1×192 维，因为过滤器中信道的数量必须与输入层中信道的数量一致。池化层是压缩了高度nw和宽度nw，这里压缩了nc

1 × 1卷积层就是这样实现了一些重要功能，他给神经网络添加了一个非线性函数，从而减少或保持输入层中信道数量不变，也可以增加信道数量，这对构建 Inception 网络很有帮助

2.5 Inception网络

2.5.1 介绍

构造卷积层时，你要决定过滤器的大小究竟时1×3，还是3×3，还是5×5，或者要不要添加池化层，而Inception网络的作用就是代替你来做决定，虽然网络架构因此变得更加复杂，但网络表现却非常好

这里池化后维度变了，是又进行了一次 1×1卷积，

基本思想是：Inception网络不需要认为决定使用哪个过滤器，或是否需要池化，而是由网络自行确定这些参数，你可以给网络添加这些参数的所有可能的值，然后把这些输出连接起来，让网络自己学习它需要什么样的参数，采用哪些过滤器组合，但有个问题就是计算代成本

下面计算一个这个5×5 过滤器的成本，

这个计算量的理解：5*5*192是指一个过滤器的在输入上的乘法数量，28*28*32是指，32个过滤器在每个卷积核中的乘积次数，对于输出的 28×28×32 的每个数字都要进行 5×5×192次乘法运算 = 120M 。为了降低计算成本，我们用计算成本除以因子10，缩小为十分之一

另一种方法如下，应用1×1卷积：

要做的就是把左边这个较大的输入层，压缩成中间较小的中间层，只有16个信道，有时这被称为瓶颈层，通常是某个对象最小的部分。中间的成本是输出 28×28×16每个都做1×1差192次乘法= 240w，而第二个卷积层为 28 ×28×32 × 5×5×16 = 1000w = 10M，总次数是1240w = 12.4M，而所需的加法运算和乘法运算近似相等

当你不想决定是否用池化层，用什么过滤器时，可以用 Inception 模块，应用各种过滤器，只需把输出连起来，而计算成本，可以用1×1卷积构建瓶颈层，只要合理构建瓶颈层就不会影响性能。。。。。

2.5.2 应用

这个模型的目的是让模型自己学习用哪一种conv的方式，就不需要不停调参了，简化运算也少费很多人力

如下图，中间通过一些全连接层，然后softmax来预测输出结果标签，可以看错Inception网络的一个细节，他确保了即使是隐藏单元和中间层，也参与了特征计算，他们也能预测图片的分类，它在Inception网络中起到一种调整的效果，并且能防止网络发生过拟合

Inception 这个命名来自盗梦空间的网络流行梗。。。

2.6 使用开源的实现方案

面向 GitHub编程（狗头）

复制URL

然后git clone ，这是用git下载

还有直接下载

如果在开发一个计算机视觉应用，一个常见工作流程就是先选择一个你喜欢的架构，你学习过的、朋友介绍的、文献看到的，然后寻找一个开源实现，从GitHub下载，以此为基础开始构建，优点是这些网络通常都需要很长时间来训练，而或许有人已经使用多个GPU，通过庞大的数据集预先训练了这些网络，接下来就可以对这些网络迁移学习