31. 深度学习进阶 - 全连接层及网络结构

最新推荐文章于 2024-05-20 11:05:55 发布

茶桁

最新推荐文章于 2024-05-20 11:05:55 发布

阅读量364

点赞数 1

分类专栏：茶桁的AI秘籍 - 核心基础文章标签：深度学习人工智能

本文链接：https://blog.csdn.net/ivandoo/article/details/135106573

版权

茶桁的AI秘籍 - 核心基础专栏收录该内容

32 篇文章 6 订阅

订阅专栏

在这里插入图片描述

Hi，你好。我是茶桁。

之前的课程咱们学习了卷积以及池化，那到底卷积是如何构成卷积神经网络的呢？我们这节课来好好讲一下。

全连接层

整个卷积的运算就是经过卷积，再经过pooling，再经过卷积。会把这个图形变的很小。然后再经过pooling，又会一直把我们的特征变得越来越小，之后有一个很重要的层，这个层叫做全连接层。

Alt text

后面的几个柱状图就是它的线性变化，就是它的全连接层。

先是将图片卷积、池化变小，变成很小的高级特征，然后拉平之后进入全连接层进行线性变化。这就是卷积操作的整个工作流，也是为什么卷积操作需要的参数少的原因。

我们在这里重点说一下全连接层。

Alt text

我们做了很多pooling，很多卷积之后，我们会生成一个很厚的一个值。把很厚的这个值给他拉平，在PyTorch里面直接就flatten, 或者用reshape直接进行，把它拉平成一个1乘以n的一个向量。然后给这个1乘以n进行熟悉的wx+b。

我们对它进行线性变化，第一是对它的维度进行了变化。假如要给它变成一个10分类，纬度进行的变化。

另外一点，我们每一层都会有不同的特征点，这些特征点代表这图像不同的位置把它抽象成的值。然后一层一层的，又是不同的filter的结果，提取出来的不同的特征。比如横向，竖向之类的。机器可能还会自动提取一些颜色，形状等等。

那么现在我们要把这些东西进行一个综合考量，要把这些信息全部拿起来综合做个判断。比如我们有三个filter, 也就是有三层，这三层里面拿出四个位置。那么拉平的画，就变成3乘以4，这里面有12个数值。这12个数值提取出来通过不同的方式了，关注点不同，提出来的12高级特征。

现在要把这12个高级特征全盘考虑、综合考虑。我们要给这些数据加一个不同的权重。就要给它做一个wi * xi，就给它这些全盘综合做了一个权重的这个赋值。

所以说，全连接不仅对维度进行了变化，它还对之前提取出来的局部信息进行了综合，这个就是全连接层的作用。既进行了变化又进行了维度信息的综合。

所以说，大家看一下

Alt text

这些不同的著名的网络结构，都是进行完之后要进行线性变化，线性变化之后把它变到我们期望的target上，就是最前面的这些东西进行综合。

算出来这个数值之后，然后用全连接层进行分类。但是全连接层不一定是只能进行分类，其实还进行特征的一个变化。

进行线性变化完了之后，通过Softmax，然后再给它进行cross-entropy，就可以求出它的loss值了。

Alt text

其实最近几年，就从2019年左右开始呢，其实大家慢慢的不用Softmax和cross entropy了，当然用这个也可以。为什么不用了呢？

比方我现在有三个图片，IMAGE1、IMAGE2和IMAGE3，对应的label分别是3、5、6。那么要做cross-entropy的时候，就要把3变成[0,0,1,0,0,0,0,0]，然后5和6都要进行变化。然后才能跟Softmax预测出来这个probability做cross-entropy。也就是说，在这里要进行一次one-hot编码。结果后来就发现可以做一个简化操作，进行了Softmax之后给它前面加个log。

假如说，Softmax之后是0.1, 0.3, 0.3, 0.2, 0.1, 给它加个log,就会是一个负的比较大的数字，越接近于1，比方0.99，越接近于1结果会越接近于0，越远离1，这个负的值会越大。

所以现在大家会有一个非线性变化，叫做log Softmax，出来的结果就是负的。然后还有一个loss叫做NLLloss, negative log likelihood loss，这个在PyTorch里边也有。

这个有趣的地方就来了，如果我们它的label是3，直接来看一下log之后的值是不是-3, 给它再取个负号，那么就直接说这个的loss是3。如果它的label是5，那么log之后是另外一个值，假如说是-0.7，那么它取5，我们发现结果是-0.7，加个负号，它的loss直接就是0.7。

这样就不需要进行one-hot编码了，而且也能达到一个效果，就是我们期望的地方越接近于1，loss越接近于0。

所以，现在在工作中，我们看大量代码都开始这么做了，相当于是一个简化板的Softmax。

那这个呢就是我们整个卷积神经网络的工作流程，全连接层的作用大家一定要知道。

好，我们做一个总结。第一节课，给大家讲解卷积的原理。那么什么是卷积神经网络呢？只要用了卷积(Conv)这个操作的网络, 它就叫卷积神经网络。所以理论上，你可以让一个图形先经过卷积，再经过RNN，再经过卷积，再经过RNN，都可以。这个你既可以叫它卷积网络，也可以叫它循环神经网络。

然后呢跟大家说了CNN可以用在很多地方，比方说分类，探测，还有分割，其实背后都是卷积神经网络在做。

还有给大家讲了filters, padding, stride和channel，它的作用。除此之外，我们讲了Parameters sharing和Location Invariant。

在整个过程中，我们哪一层做卷积，哪一层做pooling，线性变化做几层，是不是纯靠经验？说白了这个确实还是纯靠经验，所以有一个很重要的特点就是我们需要去借鉴，我们需要去借鉴前人的经验。

几种神经网络结构

我们需要看前人的网络结构是怎么搭的，有几种比较重要的结构，LE-NET5，ALEX-NET。Alex那个net结构就是2012年ImageNet取得第一名的，上面有图。

它的特点就是第一次用Relu去做了非线性变化, 作用就会进行的比较快，它还在GPU上进行运算。

Relu就是一个非线性变化，如果把它做了卷积操作之后，给它再加个Relu，可以把它值再进行一个非线性变化就可以了，就是把它卷积出来的结果做了一个非线性变化。

GPU运算的作用是什么呢？GPU为什么重要？

假设现在有一张1万 * 1万的一张图，有3 * 3的卷积核，如果说原始的状态我们得先从左到右再从上到下的做。我们得进行998乘以998次移动。

有GPU的话，我们可以让其中一部分在GPU的某个地方进行计算，另外一部分同时在GPU的另外一个地方计算，就可以分布式的。因为GPU所做的事情就是把矩阵运算可以分布式的在不同的地方并行运算。

这就是为什么有GPU玩游戏不卡，因为加载图片的时候它一部分图片在GPU某个地方加载，另外一部分图片在GPU另外一个地方加载，这是同时一起加载的。

如果年龄在30岁以上的小伙伴应该知道，以前看网页的时候那个大的图片会一行一行显示出来，就90年代末那会儿，图片是一行一行一行显示出来的。而对于GPU的话，显示图片是一块一块一起去渲染的。

那么对于卷积神经网络来说，这一块一块的filters，也是一起渲染一起计算的。所以说在做一层的计算的时候它就快了。而且如果你的GPU足够多，你还可以让它每一层的filters也并行计算。每一层的filters在每一块上又可以快速计算。

所以有了GPU的运行速度可以快十几倍，二十几倍，甚至上百倍都可以。

然后是VGG-NET。

Alt text

VGG-NET是第一个真正意义上的深度神经网络，我们看这张图，它门一层都向下做了一个下采样。不断的下采样的结果是可以获得一些非常深的feature，或者一些非常高层次的feature。

VGG当时取得的效果也非常的好，也学的非常好。但是随着VGG正式的把我们带到深度神经网络这个过程中，我们就发现当网络特别深的时候会产生一个问题。

我们回忆一下，之前的课程中有讲过，当网络特别深的时候会产生什么问题？

我们之前课程里有说，当网络特别深的时候就会产生梯度消失。

首先做这个变化的时候它的体现倒不是说就是会梯度消失，而是和梯度消失很类似。就是这个图片在前面运行的特别长，如果这个filter有几个值比较小，那么值经过filter值会变得很小，再经过一个filter又会变得很小。

到最后，原来的图像区别还挺大的，经过几次卷积之后呢，就都变成了很小的一些数字，展示出来就近乎一张纯色的图片。

这个其实在哲学上也可以理解一下，当你的抽象层次特别特别高的时候，全世界的东西都一样。对吧，就很佛系，科学尽头是神学。当你的抽象层次极高的时候，你看全世界所有东西都一样，在CNN里也一样，当你的这个东西足够长的时候，最后得到的东西它都差不多。

所以为了解决这个问题，就提出来一个重要的神经网络叫做RES-NET。

Alt text

这个叫做残差网络，这个残差网络是非常重要的，是微软亚研当年提出来的。

2015年用了RES-NET造成了计算机视觉的识别率超过了人类眼睛的识别率，所以2016年是AI在产业中开始落地的第一年。

当然它的原理并不难，但是经过这样的一个修改，使得我们计算机识别网络的准确度超过了人类，然后开始了这个产业落地。

截图中是RES-NET的一个Block。

class ResBlock(nn.Module):
    ...

    def forward(self,x):
        out = self.conv(x)
        out = self.batch_normal(out)
        out = torch.relu(out)

        return out + x

向前运算的时候输入x，经过了卷积，之后再给它进行一个Batch normalization ，它的那个值就把小的变大，大的变小。然后再进行一个Relu非线性变化，输出的是out加了个x。

这句话就是我们所谓的Residual的意思,就是理论上我们只要输出out就行了，但是为啥要加x呢？因为当经过很多层之后，out可能会变成0，变成一个纯色图片。所以把x加上，就是它还是保留了它的主要的图片信息，但是它在out上又有一些小的变化。这就是RES-NET的原理。

如果我们现在想做一个深的RES-NET的话怎么办？你给它输入一个三维的图片，比方说32个filters。

Alt text

然后我们进行了一个ResBlock:

class NetResDeep(nn.Module):
    def __init__(...):
        ...
        self.resblocks = nn.Sequential(
            *[ResBlock(n_chans=n_chans) for _ in range(n_blocks)]
        )
        ...
    ...

这个地方其实相当于是ResBlock之后，输出的x+out又给它输入到了一个ResBlock，又是一个x+out。

我们这里Sequential的意思就是做完了这个，它的输出直接给下一个做输出。

在这个过程中，先让x进来做卷积、做非线性变化、做pooling。然后把它送到一串ResBlock:

class NetResDeep(...):
    ...

    def forward(self, x):
        out = F.max_pool2d(torch.relu(self.conv(x)), 2)
        out = self.resblocks(out)
        out = F.max_pool2d(out, 2)
        out = out.view(-1, 8 * 8 * self.n_chans)
        out = torch.relu(self.fc1(out))
        out = self.fc2(out)
        ...

这一串ResBlock, 它有很多个ResBlock，一层一层运行下来。之后，做了一个pooling, 之后做拉平，拉平之后在做一个全连接，就是对个权重进行线性变化，变化完了之后再加了非线性变化，最后再做一个线性变化。

这里的fc2，我们定义的维度是10，意思就是把它要变成一个10分类的任务。

然后我们再给它做个log Softmax，或者说cross-entropy，或者是NLL，就可以给它进行反向传播了。

这整个过程就是咱们的RES-NET。

只要这个网络有ResBlock，或者类似于ResBlock的，它都叫RES-NET。就像只要有卷积这个单元的网络都叫卷积网络一样。

这句话的意思是说，RES-NET其实有很多种。比方下面这张图，就是一个非常著名的RES-NET。

Alt text

咱们刚才写的那个ResBlock是最简单化的ResBlock, 这个ResBlock是x进来之后，首先有一个卷积，卷积之后又给它进行了一个Batch normalization，normalization之后又进行了一个Relu，然后又进行了一个drop out，再之后再给它进行一个Relu，然后再sum，加上x。

Alt text

这个是刚才我们写的ResBlock的一个更复杂的版本。这个网络结构是RES-NET的一个经典结构。

RES-NET的经典结构一共有这么几种：ResNet-18、ResNet-34、ResNet-50、ResNet-101、ResNet-152几种。ResNet-18和ResNet-34的基本结构相同，属于相对浅层的网络，后面3种的基本结构不同于ResNet-18和ResNet-34，属于更深层的网络。

Alt text