Difference-Guided Representation LearningNetwork for Multivariate Time-SeriesClassification（TCYB）

多变量时间序列广泛应用于医学、多媒体、制造业、动作识别、语音识别等领域。MTS的准确分类已成为一个重要的研究课题。传统的MTS分类方法没有对时间序列的时间差异信息进行显式建模，而时间差异信息实际上是重要的，反映了动态演化信息。本文提出了差分引导表示学习网络(DGRL-Net)，利用动态演化信息指导时间序列的表示学习。DGRL-Net由差分引导层和多尺度卷积层组成。首先，在差分引导层，我们提出了一个差分门控LSTM来建模时间依赖性和动态演化的时间序列，以获得原始序列和差分序列的特征表示。然后，将这两个表示作为多尺度卷积层的两个输入通道，提取多尺度信息。大量的实验表明，该模型在18个MTS基准数据集上的性能优于最新的方法，并在两个基于骨骼的动作识别数据集上取得了具有竞争力的结果。通过烧蚀实验和可视化分析验证了该模型的有效性。

背景：

现有的MTS分类方法没有明确地对时间序列的时间差异信息进行建模，而时间差异信息反映了时间序列的动态演化信息，对时间序列的表示学习起着重要的作用。具有较大时间差异的序列段可以提供丰富的信息

 DGRL-Net由差分引导层和多尺度卷积层组成。首先，在差分引导层，我们提出差分门控LSTM对输入时间序列的时间依赖性和动态演化进行建模，获得原始序列特征表示和差分特征表示。然后，在多尺度卷积层中，这两种表示可以看作是多尺度CNN的两个输入通道，从MTS中提取有鉴别性的多尺度信息，便于分类。最后，利用带有softmax激活函数的全连通层来获得预测的表示。

Difference-Guided Layer
在差分引导层，在传统LSTM的基础上，提出了一种差分门控LSTM，利用输入时间序列的动态演化信息来引导LSTM的门控机制和时间序列的表示学习。 

 

传统LSTM的存储单元被扩展为两个模块:1)差异信息模块(图中绿色部分)和2)原始信息模块(图中蓝色部分)。 

 

 在差分信息模块中，利用时间序列的差分和LSTM的更新方程来计算差分特征表示

 

 Multiscale Convolutional Layer

在多尺度卷积层中，采用原始序列特征表示和差分特征表示作为多尺度CNN的两个输入通道，提取多尺度特征。