计算机视觉相关笔记（二）ResNet

计算机视觉相关笔记（二）ResNet

1.摘要部分

作者提出了一种很深层的网络，深度可以达到100-1000层。训练很深的网络是一件很难得事情，一方面是由于过拟合，另一方面是因为误差。当训练很深的时候易出现梯度爆炸或者梯度消失，并且会出现精度下降的情况。

2.残差网络

作者在加了残差网络后，训练精度和测试精度都得到了提升。
残差连接主要有两种方法：
（1）就是同时在输入和输出加一些额外的0，使得两边能对应起来。
（2）做全连接的投影，用一个1*1的卷积，这个卷积层的特点是。它不在空间维度上做任何的东西，但是主要在空间通道维度上做改变，使得输出通道是输入通道的两倍，这样就可以将残差连接的输入和输出对比上了。