残差神经网络（ResNet）理解

关键词：退化现象 （Degradation）、快捷连接（Shortcut connection）

退化现象：随着网络层不断的加深，模型的准确率先是不断的提高，达到最大值（准确率饱和），然后随着网络深度的继续增加，模型准确率毫无征兆的出现大幅度的降低。

快捷连接：在神经网络中增加线性转换分支，在线性转换和非线性转换之间寻求一个平衡。

 

与传统的机器学习相比，深度学习的关键特征在于网络层数更深、非线性转换（激活）、自动的特征提取和特征转换，其中，非线性转换是关键目标，它将数据映射到高纬空间以便于更好的完成“数据分类”。随着网络深度的不断增大，所引入的激活函数也越来越多，数据被映射到更加离散的空间，此时已经难以让数据回到原点（恒等变换）。或者说，神经网络将这些数据映射回原点所需要的计算量，已经远远超过我们所能承受的。

退化现象让我们对非线性转换进行反思，非线性转换极大的提高了数据分类能力，但是，随着网络的深度不断的加大，我们在非线性转换方面已经走的太远，竟然无法实现线性转换。显然，在神经网络中增加线性转换分支成为很好的选择。

ResNet框架结构

 

 

参考资料

1.通俗易懂的一篇介绍https://zhuanlan.zhihu.com/p/101332297?utm_source=qq