超分-wavelet

1、DWSR：Deep Wavelet Prediction for Image Super-resolution

动机:

大多数基于深度学习的图像超分辨率方法都是基于空间域数据，目的是将像素值重构为网络的输出。在本工作中，我们探讨了在SR任务中利用转换域数据的优点，特别是在捕捉图像中的更多结构信息以避免过多的人工痕迹。此外，基于VDSR和残差网在超分辨率任务中的良好性能，提出了一种用于超分辨率任务的深度小波网络(DWSR)。

贡献：

（1）第一个将小波域内的信息互补(分成低频和高频子带)与深度CNN相结合的方法。具体来说，小波促进稀疏性，也提供有关图像的结构信息。
（2）在小波预测网络的基础上，利用残差对小波系数的稀疏性促进作用，通过残差的推断进一步增强小波系数，在残差网络的基础上构建了小波预测网络。
（3）我们的网络有多个输入和输出通道，可以学习图像不同层次的不同结构。小波系数中的这种互补结构信息有助于用较少的伪影更好地重建SR结果。

Haar(db1)小波

LL(average)为低频信息，LH(horizontal)为水平高频信息，HL(vertical)为垂直高频信息，HH(diagonal)为对角高频信息。

网络结构

如下图所示，训练过程中，LR小波分解，得到LRSB，SR小波分解得到SRSB，利用卷积残差网络，学习LRSB和SRSB的残差部分。
测试时，将得到的SRSB通过逆小波分解转化为SR图片。

损失函数

Deep Residual Network in Wavelet Domain for Image Super-resolution

对DWSR进行改进：
（1）DWSR输入为LRSB，网络部分学习LRSB和SRSB之间的差值△SB，而直接将LR作为输入，学习的实际也是LRSB和SRSB之间的差值△SB，其实只是网络输入不一样。
（2）网络结构的改进，DWSR只是一些简单的卷积，而本文利用残差块，多尺度特征融合，更好地提取特征。

MWCNN：Multi-level Wavelet-CNN for Image Restoration

之前方法的缺点：

WPT从分解的角度独立处理每个子带，忽略了这些子带之间的依赖关系。相比之下，我们的MWCNN考虑了多级小波变换，在不损失信息的情况下扩大接收域。我们的MWCNN将所有的子带作为每次变换后的输入，可以将DWT嵌入到任何带池的cnn中，具有更强的空间上下文和子带间依赖关系建模能力。

本文提出了一种多级小波CNN (MWCNN)模型，以扩大接收域，更好地权衡性能和效率。我们的MWCNN基于U-Net架构，由一个收缩子网和一个扩展子网组成。在收缩子网络中，引入离散小波变换(DWT)来代替每个池操作。由于DWT是可逆的，保证了这种下采样方案可以保留所有的信息。DWT可以同时捕获feature map的频率和位置信息，这可能有助于保存细节纹理。在扩展子网络中，利用小波逆变换(IWT)将低分辨率的特征映射上采样到高分辨率的特征映射。为了丰富特征表示，减少计算量，采用元素求和的方法将收缩和扩展子网络的特征映射进行组合。此外，扩频滤波也可以解释为MWCNN的一种特殊情况，我们的扩频滤波在扩大接收域方面更为普遍和有效。

贡献：

（1）提出了一种新的MWCNN模型，该模型在提高接收域容量的同时，兼顾了效率和恢复性能。
（2）由于小波变换具有良好的时频局域性，因此具有良好的细节保持能力。

网络结构

从这张图可以看出，相对于WPT，本文框架考虑了四个子带之间的相互关系。
MW-CNN详细结构：

Wavelet-SRNet: A Wavelet-based CNN for Multi-scale Face Super Resolution

贡献：

1)提出了一种新的基于小波的方法基于cnn的人脸SR算法，，这是在深度学习框架下首次尝试将单幅图像SR转换为小波系数预测任务。
2)为了充分利用小波变换，提出了一种灵活、可扩展的全卷积神经网络。它可以应用于具有多个上标因子的不同输入分辨率面
3)定性和定量地研究了多尺度面超分辨率问题，特别是在输入分辨率极低的情况下。

网络架构

损失函数