最近需要使用到saliency map,研究了挺长时间,做个笔记
saliency map是干啥的?
saliency map可以理解为特征图,为了衡量图像中每个像素点的特征对分类结果的影响。看下面的图,可以看到,狗的在原图像中的轮廓是被凸显出来的,这表明图中这些像素点的特征的梯度对分类结果的影响是比较大的
saliency map的应用场景?
用在图像分类问题上,衡量每个像素点对分类结果的影响;应用到别的领域就是,衡量每个点、每个序列,每个node等等的特征对最终结果的影响。
saliency map原理?
可以看下面的图中的解释。大概就是将结果反向传播,计算出每一层的梯度,然后将梯度返回。根据梯度和输入的特征来生成heatm图片,帮助观察每个node的特征的重要性