论文笔记(RCAN)

1.研究背景：

观察到用于图像SR的更深的网络更难训练，低分辨率的输入和特征包含了丰富的低频信息，这些低频信息在通道间被平等对待，从而阻碍了CNN的表示能力。

2.存在问题：

1.EDSR和MDSR在性能上的巨大提升说明了表征深度对于图像SR至关重要。然而，就我们所知，简单地堆叠残差块来构建更深层的网络很难获得更好的改善。

2. 高频通道特征对HR重构具有更大的信息量，如果我们的网络更多地关注这些通道特性，它应该有希望获得改进，但大多数基于CNN的方法对通道特征一视同仁，在处理不同类型的信息(如低频信息和高频信息)时缺乏灵活性。

3.改进思索：

1.更深层次的网络是否可以进一步促进图像SR，以及如何构建非常深的可训练网络。

2. 平等地对待每个通道特征的处理方法对大量低频特征浪费了不必要的计算，缺乏跨特征通道的判别学习能力，最终阻碍了深度网络的表征能力。

4.解决方案：

提出了一种残差通道注意网络(RCAN)来获得深度可训练的网络，能同时自适应地学习更多有用的通道特征。

网络整体结构：

浅特征提取：只使用一个卷积层从LR输入中提取浅层特征。

残差中残差(RIR) 和深特征提取：包含若干个残差组，每个残差组又包含若干个残差通道注意块，内层用短跳连接，外层用长跳连接，LSC和SSC在训练过程中更容易绕过更丰富的低频信息。

上采样和重建：后上采样已被证明比先插值上采样方法在计算复杂度和性能方面都更有效，最后通过一个卷积层进行重建。

通道注意力：

1. 先使用全局平均池化。

2. 为了通过全局平均池从聚合信息中完全捕获通道依赖项，引入一个门控机制。

通道注意力残差块（RCAB）：

MDSR和EDSR中使用的RB可以被视为RCAB的特殊情况

5.成果对比：

3. 使用LSC或SSC可以提高性能，同时使用LSC和SSC可以获得更好的结果。

4. 深网络加入CA的有效性，对通道特征的自适应关注可以提升性能。

BI: 高频信息的重构是非常重要和困难的，RIR结构使主网络学习残差信息，通道注意力通过自适应地重新缩放通道特征来增强网络的表征能力。

BD:非常深的通道注意引导网络可以缓解模糊伪影。

6.特点总结：

1.提出了用于高精度图像SR的极深残差通道注意网络(RCAN)，其可以达到比以前基于CNN的方法更深的深度，并获得更好的SR性能。

2.我们提出残差中残差(RIR)结构来构建非常深的可训练网络。RIR中的长跳连接和短跳连接有助于绕过丰富的低频信息，使主网络学习到更有效的信息。

3.提出通道注意(CA)机制，通过考虑特征通道之间的相互依赖性，自适应地调整特征规模，进一步提高了网络的表示能力。