PyTorch深度学习实战（14）——类激活图

0. 前言

我们已经能够构建性能优异的神经网络模型，但对我们而言，卷积神经网络的决策过程难以解释和理解。类激活图 (Class Activation Map, CAM) 是一种可视化技术，用于解释深度学习模型在图像分类任务中的决策过程。它能够显示出对于分类结果影响最显著的图像区域，从而提供对模型决策的可解释性。通过观察类激活图，可以理解模型在分类决策中注重的区域和特征，这有助于我们分析和解释模型的决策依据，以及验证模型是否关注了正确的特征。本节中，将介绍类激活图的基本概念，并使用训练好的模型生成图像的类激活图。

1. 类激活图

1.1 基本概念

类激活图 (Class Activation Map, CAM) 是一种用于可视化卷积神经网络 (Convolutional Neural Networks, CNN) 中每个类别的局部重要性的技术，使用 CAM 可以帮助我们理解 CNN 的决策过程，以及哪些特征对于某个类别的分类最为重要。一个示例 CAM 如下所示，其中左侧是输入图像，右侧突出显示了用于类别预测的像素：

根据以上激活图可以看到高激活区域集中