[图像超分]--Adaptive Densely Connected Single Image Super-Resolution

点评一下，如有不对的地方，请联系更正！首先本文的实验结果非常优秀，超越了RCAN、SAN等方法，但是也隐藏了几个不公平的trick，例如：1.网络通道数是128，RCAN、SAN均为64通道；2.训练数据集为DIV2K+Flickr2K共3000多张图片，RCAN、SAN等只采用DIV2K800张图片训练。此外感觉论文的消融实验分析缺少了个整个网络整体各个模块的贡献度，仅仅是拿出来单独测试了一下有效性。

摘要：

为了提高单图像超分辨率(SISR)的性能，我们提出了一种基于自适应密集连接(ADCSR)的图像超分辨率算法。算法分为BODY和SKIP两部分。通过自适应密集连接，提高了卷积特征的利用率。此外，我们还开发了一个自适应亚像素重建层(AFSL)来重建BODY输出的特征。我们对SKIP进行预训练，使BODY专注于高频特征学习。通过PSNR、SSIM、视觉效果的对比验证了其优越性我们的方法以最先进的算法。

正文：

一、Motivation:
1.dense结构比residual结构表现好
2.WDS和AWSRN中的Global-Skip，可以使得主体网络集中学习高频信息

二、ADCSR:

网络结构如上图所示，主要分为SKIP和BODY两个部分，其中SKIP结构就是pixel shuffle，被用来预训练给输入图像的低频信息提供一个旁路，使得BODY可以更好的学习高频信息。BODY就是几个ADRU经过GFF全局特征融合模块，后接一个AFSL上采样模块。下面具体看一下网络中的ADRU、ADRB、AFSL。

1）ADRU(adaptive dense residual units):
每个ADRU包含了4个ADRB，然后接了个LFF融合模块，其中ADRB的连接方式为自适应密集连接，跟Dense连接方式相同，区别就是连接的权重是网络自适应学习的。

2）ADRBs (adaptive dense residual blocks)：
每个ADRB包含了4个卷积组合，连接的方式如上，也是自适应权重密集连接，最后加了个LFF局部特征融合模块。每个Conv unit结构参照了WDSR的创新，即激活函数LeakyRelu之前的卷积先升维到输入通道数的3倍，之后的卷积降维到原通道数。

3）AFSL(Adaptive subpixel reconstruction layer)：
以往的标准pixel shuffle就是一个conv+shuffle模块，这里使用4个不同卷积核大小的分支并行上采样再进行融合。类似于Inception结构，输入一个多尺度融合思想。

三、实施细节
SKIP中Conv+Shuffle的卷积核尺寸为5，AFSL中四个卷积核尺寸分别为：3,5,7,9。BODY有4个ADRUs。特征提取层、卷积单元、LFF和GFF的输出通道数为128，AFSL中的4个亚像素卷积和最终输出为3通道。

实验结果：

1.Adaptive dense connections，验证了Adpative的有效性

2.Adaptive subpixel reconstruction layer (AFSL)的有效性，Sub-conv、AWMS结构可参照下图

3.SKIP预训练的有效性

解释一下上图的意思，Spectrogram为图像的光谱图（我也不太懂），但是我们可以看出经过SKIP预训练后的BODY OUTPUT几乎全是高频信息，低频信息全为SKIP OUTPUT。下图为正常训练和预训练的收敛曲线。

4.与SOTA算法效果对比