提出了一种基于自适应选择特征图(ASFFuse)的红外和可见光图像融合模型。提出了一种自适应选择特征映射模块(ASFM)。ASFM测量每个特征图中包含的信息量,并过滤掉包含更多噪声信息的特征图。
此外,我们还引入了特征增强模块(FEM),使融合图像具有更多的源图像信息。对于所提模型的无监督训练,我们提出了一个基于对比学习的纹理损失函数。该损失函数较好地保留了图像的纹理信息,使融合后的图像具有较好的视觉效果。在TNO和RoadScene数据集上进行的大量实验表明,我们的ASFFuse模型在定量和定性评估方面都优于最先进的方法。
一、整个网络架构
融合部分加了两个模块,自适应和transformer模块(消融实验也是做的这两个模块。)
二、损失函数包括3个部分
像素损失+结构相似性损失+纹理信息损失
由以上三个部分组成。