resnet:Deep Residual Learning for Image Recognition
这几天重新看了一遍resnet,有些不同的理解,写下来纪念一下。这个网络的提出本质上还是要解决层次比较深的时候无法训练的问题。这种借鉴了Highway Network思想的网络相当于旁边专门开个通道使得输入可以直达输出,而优化的目标由原来的拟合输出H(x)变成输出和输入的差H(x)-x,其中H(X)是某一层原始的的期望映射输出,x是输入。Highway Network的定义:允许保留一定比例的原始...
原创
2018-05-03 16:01:32 ·
179 阅读 ·
0 评论