时间序列分析 | 可解释时间序列分析的多级小波分解网络

1.时间序列分析 | 可解释时间序列分析的多级小波分解网络
近年来，时间序列应用在几乎所有的学术和工业领域都出现了前所未有的崛起。各种类型的深度神经网络模型被引入到时间序列分析中，但对重要的频率信息还缺乏有效的建模。基于此，文章提出了一种基于小波的神经网络结构，称为多级小波分解网络( multilevel Wavelet Decomposition network, mWDN )，用于建立时间序列分析的频率感知深度学习模型。mWDN模型保留了多级离散小波分解在连续学习中的优势，同时可以在深度神经网络框架下对所有参数进行调整。在mWDN的基础上，进一步提出了两种用于时间序列分类和预测的深度学习模型:残差分类( Residual Classification Flow, RCF )和多频长短时记忆( multi-frequency Long Short-Term Memory, mLSTM )。这两种模型以不同频率的mWDN分解的全部或部分子序列作为输入，通过反向传播算法在全局学习所有的参数，使得基于小波的频率分析能够无缝嵌入到深度学习框架中。在40个UCR数据集和真实用户量数据集上的大量实验表明，基于mWDN的时间序列模型具有良好的性能。特别的，文章提出的一种基于mWDN模型的重要性分析方法，该方法成功地识别出了对时间序列分析至关重要的时间序列元素和mWDN层。这实际上说明了mWDN的可解释性优势，可以看作是对可解释性深度学习的一次深入探索。
近年来，伴随着深度学习领域的飞速发展，不同类型的深度神经网络模型被应用于时间序列处理分析方面并在实际生活中取得了满意的效果，例如循环神经网络（RNN），使用记忆节点来捕捉序列节点的相关性，但大部分的这些模型都没有利用时间序列的频率信息。
小波分解是一种在时域和频域上刻画时间序列特征的常用方法。只管来说，可以将它作为特征提取工具，用于深度模型建模前的数据预处理。虽然这种松散的耦合方式可能