dCAM: Dimension-wise Class Activation Mapfor Explaining Multivariate Data Series Classification

数据序列分类是数据科学中一个重要且具有挑战性的问题。通过找到导致算法做出某些决策的输入的判别部分来解释分类决策是许多应用中真正需要的。卷积神经网络在数据序列分类任务中表现良好;但是，这类算法对多元数据序列的具体情况的解释并不充分。解决这个重要的限制是一个重大的挑战。在本文中，我们提出了一种新的方法，通过突出时间和维度的判别信息来解决这个问题。我们的贡献是双重的:我们首先描述了一个卷积架构，它支持维度的比较;然后，我们提出了一种返回dCAM的方法，这是一种专门为多元时间序列(以及基于cnn的模型)设计的维度类激活图。在多个合成数据集和真实数据集上的实验表明，dCAM方法不仅比以往的方法更准确，而且是多元时间序列中判别特征发现和分类解释的唯一可行方法。

主要解决的问题：多元时间序列分类算法的可解释性比较差

面临的挑战：类激活图(Class Activation Map, CAM)[74]可以用来解释分类结果。由于CAM是一个单变量时间序列(与输入实例的长度相同)，其高值与对给定类别识别贡献最大的输入子序列对齐，在以多元数据序列作为输入的特定情况下，无法从CAM检索特定维度贡献级别的信息。

 CAM通过在所有维度(变量)中突出显示相同的时间窗口。

一种新的数据组织和一种新的CAM技术，dCAM(维度类激活映射)，能够同时突出时间和维度信息

需要解决的问题：

 

 框架：

1） A first Architecture: dCNN

我们提出了dCNN架构，我们将输入转换为一个立方体，其中每一行包含所有维度的给定组合 

 输入C(T)被转发到一个经典的二维CNN。体系结构的其余部分独立于输入数据结构。

2）The dResNet/dInceptionTime Architectures 

we propose two new architectures dResNet and dInceptionTime, based on the state-of-the-art architectures ResNet [65] and InceptionTime [28]

3）Random Permutation Computations. 

我们现在解释如何计算dCAM来识别维度内的鉴别特征。

 3）Random Permutation Computations. 

 

 

 4）Merging Permutations.

 

5） dCAM Extraction

 

 EXPERIMENTAL EVALUATION