加深网络会带来如下三大类问题:
1. 反向传播梯度消失;
2. 前向传播信息量减少;
3. 训练时间加长。
一句话解释,深度网络容易造成梯度在back propagation的过程中消失,导致训练效果很差,而深度残差网络在神经网络的结构层面解决了这一问题,使得就算网络很深,梯度也不会消失。
一句话解释,深度网络容易造成梯度在back propagation的过程中消失,导致训练效果很差,而深度残差网络在神经网络的结构层面解决了这一问题,使得就算网络很深,梯度也不会消失。