机器学习入门记录3.1-Resnet

Resnet 残差网络

参考：https://v.youku.com/v_show/id_XMzM4MDM2NzA2OA==.html?spm=a2hzp.8244740.0.0
最大的特点：深度深

深度网络的好处？

1. 特征的"等级"随网络深度的加深而变高
2. 极其深的深度使该网络拥有极强大的表达能力

训练深度网络的重要问题（是层数越多网络越好吗？）

1. 梯度弥散

2.退化问题

层数越深的网络反而有更大的误差

对问题的解决方法–Resnet

ReLu这个激活函数使得小于零的部分都为0。