【可解释】|Group-CAM

论文链接：https://arxiv.org/abs/2103.13859
https://github.com/wofmanaf/Group-CAM

分组思想

重组构成CAM的特征图

如果saliency方法实际上是识别对模型预测有重要意义的像素，这应该体现在模型对重建图像[5]的输出中。然而，由于masked和salient区域之间的尖锐边界，仅仅标注感兴趣的区域以外的图像像素会导致意想不到的效果。因此，在测试特征子集[3]的重要性时，将这种对抗效应最小化是至关重要的。

为了解决上面的问题，我们以一个输入的masked版本开始，使用模糊信息替换没保留的区域（即像素值为0的区域），然后实现该图像的分类去测量初始masks的重要性。模糊图像可计算为：

实验