时间序列预测方法之 DeepAR

本文链接：个人站 | 简书 | CSDN
版权声明：除特别声明外，本博客文章均采用 BY-NC-SA 许可协议。转载请注明出处。

最近打算分享一些基于深度学习的时间序列预测方法。这是第一篇。

DeepAR 是 Amazon 于 2017 年提出的基于深度学习的时间序列预测方法，目前已集成到 Amazon SageMaker 和 GluonTS 中。前者是 AWS 的机器学习云平台，后者是 Amazon 开源的时序预测工具库。

传统的时间序列预测方法（ARIMA、Holt-Winters’ 等）往往针对一维时间序列本身建模，难以利用额外特征。此外，传统方法的预测目标通常是序列在每个时间步上的取值。与之相比，基于神经网络的 DeepAR 方法可以很方便地将额外的特征纳入考虑，且其预测目标是序列在每个时间步上取值的概率分布。在特定场景下，概率预测比单点预测更有意义。以零售业为例，若已知商品未来销量的概率分布，则可以利用运筹优化方法推算在不同业务目标下的最优采购量，从而辅助决策（详见《如何在商品采购中考虑不确定性》、《报童问题》以及《报童问题的简单解法》）。

本文将简要地介绍一下 DeepAR 模型，并给出一个 demo。如果希望了解更多细节，建议直接阅读 Amazon 的论文 Deep AR: Probabilistic Forecasting with Autoregressive Recurrent Networks。

Model

用 $z_{i,t}$ 表示第 $i$ 个序列在时间步 $t$ 的值，$x_{i,t}$ 表示特征，$t_0$ 表示预测开始时刻。DeepAR 基于自回归循环神经网络预测 $z_{i,t}$ 的概率分布¹，用似然函数 $l(z_{i,t}|{\theta }_{i,t})$ 表示。

模型如下图所示，左边是训练过程，右边是预测过程。

训练时，在每一个时间步 $t$，网络的输入包括特征 $x_{i,t}$ 、上一个时间步的取值 $z_{i,t-1}$，以及上一个时间步的状态 ${\vec{h}}_{i,t-1}$。先计算当前的状态 $h$