12篇顶会论文，深度学习时间序列预测经典方案汇总

如果觉得我的算法分享对你有帮助，欢迎关注我的微信公众号“ 圆圆的算法笔记”，更多算法笔记和世间万物的学习记录～

早期的时间序列预测主要模型是诸如ARIMA这样的单序列线性模型。这种模型对每个序列分别进行拟合。在ARIMA的基础上，又提出了引入非线性、引入外部特征等的优化。然而，ARIMA类模型在处理大规模时间序列时效率较低，并且由于每个序列分别独立拟合，无法共享不同序列存在的相似规律。深度学习模型在NLP、CV等领域取得了成功应用后，也被逐渐引入到解决时间序列预测问题中。通过不同序列共享一个深度学习模型，让模型能从多个序列中学到知识，并且提升了在大规模数据上的求解效率。

本文介绍了深度学习模型在时间序列预测问题中的应用，主要包括RNN、CNN、Transformer、Nbeats等4种类型模型，以及12篇相关顶会论文，全面掌握深度学习时间序列预测方法。

RNN时序预测模型

DeepAR: Probabilistic Forecasting with Autoregressive Recurrent Networks（2017）首先采用深度学习模型解决时间序列预测问题。该方法采用经典的RNN模型进行时间序列预测，在训练阶段，每个时刻传入上一时刻的真实值、外部特征，经过RNN单元后，预测下一个时刻的值。在预测阶段，将模型在上一个时刻的预测值作为输入，替代训练过程中上一个时刻真实值的输入。模型结构如下图。

由于预测阶段和训练阶段，模型在下一个时刻输入的值一个是预测采样的，一个是真实的，会导致训练和预测阶段不一致的问题，NLP中有一些方法缓解该问题，但是不能从根本解决这个问题。Deep State Space Models for Time Series Forecasting（NIPS 2018）提出了以RNN为基础的Deep State Space模型。该模型建立在state space思路基础上，认为当前时刻的观测值只和当前状态有关，而当前状态只和上一个时刻的状态有关。因此整个预估模型分为两个部分：建模连续两个隐状态的关系，以及从当前时刻隐状态到当前时刻预估结果的关系。在模型实现上，相比DeepAR，模型在训练或预测阶段，每个时刻都不需要输入上一个时刻的真实值或预测值了&#x