参见:https://zhuanlan.zhihu.com/p/269702192 神经网络的可解释性离不开特征图(feature map)的可视化。 如何分析CNN feature map上哪些区域对结果的影响最大,就用到Grad-CAM.