转载:https://blog.csdn.net/shwan_ma/article/details/78193777
论文链接:https://arxiv.org/abs/1511.04587
论文code: https://github.com/huangzehao/caffe-vdsr
这篇文章通过stack filters来获得一个比较大的感受野。最大达到41x41的感受野,在形式上,其实更有点像ResNet。通过一个global的residual connect来解决加深网络而导致的梯度问题。
本文认为Dong的SRCNN虽然成功把CNN引入到SR中,但是依然受限于三个方面:1.SRCNN依赖于一些比较小的感受野;2. 训练收敛速度太慢;3. 这个网络只能work for 一个单一尺度。
在本篇论文中,作者提出一个新方法来解决这些issue。
Context: 本文通过stack small filters来进行获得一个比较大的感受野,最大达到41x41。事实上,大的感受野可以有效帮助我们进行超分辨率重构。
Convergence: 本文通过residual learning来学习Input和Output之间的difference。由于仅学习残差,因此learning rate可以设置的比较大,可以更快的加速收敛。
Contribution: 作者通过stack filters来获得比较大的感受野,并通过high learning rate来加快收敛。然而deep 网络和high learning rate会出现梯度爆炸,因此作者提出residual-learning和gradient clipping。
主要idea就是: 1)stack small filters; 2)Residual Learning.
ResNet和VDSR两者结构比较: