2020CVPR Structure-Preserving Super Resolution with Gradient Guidance
结构保持超分辨率梯度引导(srfeat也有保持结构一说。)
问题:结构畸变,几何畸变,锋利的边缘和良好的纹理。鉴别器可能会引入不稳定因素到优化过程中。
解决办法:
- 通过一个梯度分支来恢复高分辨率的梯度图,为SR过程提供额外的结构先验。
- 梯度损失是对超分辨图像的二阶限制。
想法:一旦边缘以高保真度恢复,SR任务就可以被视为具有LR图像提供的强线索的颜色填充问题。
结果:感知损失函数PI 、LPIPS最好;与模型无关的
为了平衡两种SR方法的优点可控特征空间网络(CFSNet)设计了一种交互框架,在感知质量和减少失真两个目标之间连续传递。然而,由于这两个目标不能同时实现,内在的问题并没有减轻。因此,有必要显式地指导感知驱动的SR方法来保留结构,以进一步提高SR性能。 - 我们设计了一个梯度分支,将LR图像的梯度映射转换为HR图像,作为一个辅助的SR问题。
- 一个梯度损失显式监督梯度映射恢复图像。
保留几何结构的人
做的工作:
采用强度图作为梯度图。这种梯度映射可以看作是另一种图像,因此可以利用图像到图像的转换技术来学习两种模式之间的映射。平移过程相当于从LR边缘锐度到HR边缘锐度的空间分布平移。由于梯度映射的大部分区域接近于零,卷积神经网络可以更集中于轮廓线的空间关系。因此,网络更容易捕捉到结构依赖关系,从而为SR图像生成近似的梯度映射。在每两个中间特征之间有一个梯度块,它可以是任意一个基本块来提取更高层次的特征。通过梯度分支得到SR梯度映射后,就可以将得到的梯度特征整合到SR分支中,依次指导SR重构。梯度图的大小可以隐含地反映复原区域是锐化还是平滑化。在实践中,我们将梯度分支的下一层生成的特征图馈送到SR分支。同时,我们通过1×1卷积层wi来生成输出梯度图。
效果:以避免过度平滑或过度锐化的恢复。在梯度空间中更容易提取几何特征。因此,几何结构也可以很好地保留,从而产生更逼真的SR图像。
GMloss 函数
两个损失项来弥补SR和HR图像的梯度图(GM)的差异。一种基于像素损失,如下所示:
实验
训练集:DIV2K
测试集:Set5 Set14 BSD100 Urban100 General100
训练细节:ESRGAN组为SR的骨干,RRDB作为梯度模块。
15 3232的,HR大小128128