Large Receptive Field Networks for High-Scale Image Super-Resolution，CVPRW 2018

G. Seif and D. Androutsos, “Large Receptive Field Networks for High-Scale Image Super-Resolution,” 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW).

Motivation：
SR是一个不适定问题，存在一张LR图像对应多张HR图像问题。LR中包含HR中较少的高频细节，这在缩放因子较大时尤为明显。论文K. Simonyan and A. Zisserman. Very deep convolutional networks for large-scale image recognition. CoRR, abs/1409.1556, 2014.提出增加深度神经网络的感受野可以捕获更多的空间内容，进而提高网络性能。根据这一思路，很多SR工作通过使用更多的网络层数和递归来增加网络的深度，进而形成大的感受野，学习更复杂的image-to-image的映射。上面的做法存在一些问题：产生大量的网络参数、牺牲了网络速度、训练困难（需仔细设计学习率和梯度裁剪）。
针对上述问题，本文试图在不增加网络层数和参数数量的情况下，增大SR网络的感受野，进而提高SR网络性能。

Contribution:
本文提出了两种增大感受野的方法：一维可分离滤波器（one-dimensional separable filters）；空洞卷积（atrous convolutions）。一维可分离滤波器通过使用更大的一维卷积核来增大感受野；空洞卷积使用卷积滤波器权重之间的空间来增大感受野。两种方法相比使用标准卷积，增大了感受野，在不增加网络深度和参数数量情况下，提升了SR网络性能。

Introduction:
基本的网络结构：

基本网络中ResBlocks的结构：

使用标准卷积核时，ResBlock使用(a)结构是最优的，EDSR中使用了这种结构；使用一维可分离卷积时，(a)结构仍然是最优的。下图中A、B、C、D依次表示上述四种结构。

三种卷积（标准卷积核、一维可分离卷积核、空洞卷积核）：

一维可分离卷积（LRFNet-S）：
标准卷积和一维可分离卷积结果比较：在SR网络中使用的多是标准卷积核（如：33或55），由Table 2中的Baseline知，标准卷积核的size为77时性能最优，随着size增大网络性能先变好再变差；LRFNet-S使用一维可分离卷积核（如：13,31或15,5*1），随着卷积核size增大，网络性能增加。由Table 3知使用一维可分离卷积核相较标准卷积核，在很大程度上减小了网络的参数量。

空洞卷积（LRFNet-A）：
Table 4比较了标准卷积和不同空洞率的空洞卷积。空洞卷积实际卷积核大小：K=k+(k-1)(r-1)，k为原始卷积核大小，r为空洞卷积参数空洞率。表中Baseline表示使用标准卷积，1-2表示基本网络的12个ResBlocks中前6个空洞率为1（空洞率为1时即标准卷积），后六个空洞率为2；1-2-3表示ResBlocks前4个空洞率用1，中间4个用2，后4个用3。由结果知，在scale较大时，使用空洞率较大的卷积SR效果更好。

联合使用一维可分离卷积和空洞卷积（LRFNET-SA）：
由Table 5知，将两者联合使用结果并不会更好，相比只是用一维可分离卷积，联合使用效果会变差。

比较一维可分离卷积和空洞卷积：
空洞卷积在scale较大时，表现较好；一维可分离卷积在scale较小时，表现较好。

Gain:
对研究大scale超分有点帮助，一般SR网络使用标准卷积（如：3*3），论文证明了随着kernel size的增大，SR效果先变好再变差。空洞卷积在大scale下SR效果可能更好。论文没有开源代码，网络的整体结构应该是参考EDSR做的，改变了网络的卷积方式。
论文中的Baseline是EDSR吗？感觉好像是