RCAN详解
总体概要
RCAN(Very deep residual channel attention networks)又名非常深的残差通道卷积网络),可以说这一个模型将残差和通道注意力使用得恰当好处。在图像超分领域里面,一张低分辨的图像含有大量的低频信息,而仅仅包含少量的高频信息,而超分任务的难点就是从低频的信息推断出丢失的高频信息。所以如何地让网络更加地注意高频的信息就是一个突破点。作者在此篇文章中介绍了:
-
使用残差跳线连接使得低频信息更快地通过网络
-
使用残差的残差来构建更深的网络使得网络能够有足够的深度去恢复高频信息
-
使用通道注意力使得网络能够优化通道之间的关系,使得重要通道拥有更高的优先度(假设指偏向于含有高频信息的通道)
网络构成
数学表达
首先输入 I L R I_{LR} ILR,使用一个一层的卷积Conv提取出浅层特征 F 0 F_0 F0
而后使用一个嵌套很深的RIR模块 H R I R H_{RIR} HRIR提取深层特征 F D F F_{DF} FDF,这个提出来的RIR块达到了所见的模型中的最深的深度,提供了非常大的视野域。
F D F = H R I R ( F 0 ) , F_{DF} = H_{RIR}(F_0), FDF=HRIR(F0),
然后对提取出来的深层特征使用一个上采样的操作,将图像长宽变大,这儿使用的上采样方法是Sub-Pixel上采样(将 r 2 r^2 r2个通道的像素值排列到rw × \times ×rH的图像中)
F U P = H U P ( F D F ) , F_{UP} = H_{UP}(F_{DF}), F