类激活图（CAM, Class Activation Mapping）

类激活图（CAM, Class Activation Mapping）是一种可视化技术，主要用于深度学习中的卷积神经网络，以识别和解释图像或时间序列数据中哪些区域对于模型的决策过程最为关键。它特别适用于帮助理解网络如何根据视觉或时间序列特征做出分类决策。

原理简述

在一个典型的卷积神经网络中，最后一个卷积层后通常接一个全局平均池化层（Global Average Pooling, GAP），紧接着是一个 softmax 层进行分类。CAM 的思想基于这样的观察：尽管全局平均池化层简化了数据，但依然保留了空间或时间上的信息。

1. 全局平均池化的作用：
   • 对每个卷积特征图进行平均，提取出全局信息，减少参数数量，防止过拟合。
2. 类激活映射的生成：
   • 在网络的最后一个卷积层中，每个过滤器都可能专注于检测数据中的不同特征。通过这些过滤器的激活和对应类别的权重，我们可以反向推断出对分类结果贡献最大的区域。
   • 使用公式表示，对于类别 $c$，类激活映射 $M_c(x)$ 计算如下：
     $$M_c(x)=\sum _k{w}_k^c{S}_k(x)$$
     其中，$w_k^c$ 是从全局平均池化层到 softmax 层对应类别 $c$ 的权重，$S_k(x)$ 是最后一个卷积层中第 $k$ 个过滤器在位置 $x$ 的激活。
3. 解释与应用：
   • CAM 通过这种方式揭示了每个类别的决策依据区域，使得我们能够直观地看到模型在做出分类决策时，哪些位置的特征起了决定性作用。
   • 这不仅有助于理解模型的工作机制，也对模型的进一步优化和错误分析提供了信息。

实际应用与可视化

在实践中，类激活映射可用于识别影响时间序列分类的关键子序列，如在医学信号处理或股市趋势预测中，特定模式的识别对于分类至关重要。通过CAM，我们可以可视化这些关键模式，并据此优化模型结构或数据处理流程，以提高预测准确性。
总之，CAM 提供了一种强大的工具，使研究人员和开发人员能够洞察并优化卷积网络在各种任务中的行为，特别是在复杂的分类问题中，它帮助揭示了决策背后的关键因素。