图像超分算法小合集二：FSRCNN、DRCN、RDN、EDSR

文章：
FSRCNN : Accelerating the Super-Resolution Convolutional Neural Network
DRCN: Deeply-Recursive Convolutional Network for Image Super-Resolution
RDN: Residual Dense Network for Image Super-Resolution
EDSR：Enhanced Deep Residual Networks for Single Image Super-Resolution

FSRCNN

Accelerating the Super-Resolution Convolutional Neural Network

FSRCNN : Accelerating the Super-Resolution Convolutional Neural Network
这篇文章是SRCNN的加强版，主要目的是降低计算成本，加快其运行速度。在保持良好性能的同时，在通用CPU上实现实时性能。
所以这篇文章最关心的是速度。

主要改进在三个地方：

1. FSRCNN采用原始低分辨率图像作为输入，无需进行双三次插值，在网络末端引入反卷积层来完成上采样，极大的减小了网络参数。
2. 网将SRCNN中的非线性映射层替换为FSRCNN中的三个层，即收缩、映射和扩展，减少特征参数维度。
3. 将“宽”的非线性映射层用“**窄”的“深”**的网络来替代。

网络结构：
Conv(5，d，1) - PReLU - Conv(1，s，d) - PReLU - m× \times×Conv(3，s，s) - PReLU -Conv(1，d，s) - PReLU - DeConv(9，1，d)

特征提取层： 同SRCNN一样，从输入中提取图像特征，表示为特征向量。不同之处在于输入图像是原始LR图像，5×5卷积核。
收缩层： 为了减少网络参数数量，提高计算效率，采用1×1卷积核。
映射层： 将上一层的feature map进一步做非线性映射处理。为了保持良好性能，使用多个3×3层来替换单个宽层。
扩展层： 收缩层的逆作用，为了保持与收缩层的一致性，仍采用1×1卷积核，其数量与特征提取层相同。
反卷积层： 完成图像的上采样。由多种自动学习的上采样核组成，这些核共同产生最终的HR输出。该层的卷积核步长用来控制缩放尺寸。

与其他基于深度学习的方法相比，FSRCNN的另一个优点是，可以实现跨不同放大倍数的快速训练和测试。
作者发现FSRCNN中所有卷积层总体上都像LR图像的复杂特征提取器，只有最后一个反卷积层包含放大因子的信息。

---

DRCN

Deeply-Recursive Convolutional Network for Image Super-Resolution

DRCN: Deeply-Recursive Convolutional Network for Image Super-Resolution
这篇文章是第一次将之前已有的递归神经网络(Recursive Neural Network)结构应用在图像超分辨率上。为了增加网络的感受野，提高网络性能，引入了深度递归神经网络，但出现了梯度爆炸/消失问题，又研究出了递归监督和跳跃连接两个扩展办法。
文中所有卷积核尺寸皆为3 × 3 。

作者首先把递归网络直接引入SR任务，记为Basic Model ：
嵌入层： 含有一层隐藏层，将输入图像（灰度或RGB）表示为一组特征映射。
推理层： 推理网络是解决超分辨率问题的主要组成部分。每个递归层应用相同的卷积，使用激活函数ReLU。 推理层中对每个循环网络操作使用相同的权重和偏差矩阵W和b。
重建层： 将得到的HR空间特征（多通道）转换回原始图像空间（1或3通道）。

Basic Model 虽然简单且功能强大，但作者发现因为梯度爆炸/消失问题，训练深度递归网络非常困难（最多训练三个循环层）。

针对以上问题，作者引入了两个方法来改进：

1. Recursive-Superv