机器学习中的时间序列预测模型

1.概述

        在机器学习的各类方法中，有一类主要能用于时间序列预测的模型，包括但不限于自回归模型AR、滑动平均MA、融合AR与MA的ARIMA、隐马尔可夫模型HMM、卡尔曼滤波KF、循环神经网络RNN/LSTM等，本文对其做基本的阐述并说明其各自特点与应用场景。

2.时间序列模型

        时间序列是按照一定的时间间隔排列的一组数据，其时间间隔可以是任意的时间单位，如小时、日、周、月等。比如，产品月均销售趋势、股市K线图走势、实时翻译的语音信号、机器人移动轨迹等这些数据形成了一定时间间隔且前后具有一定的延续性与关联性。 通过对这些时间序列的分析，从中发现和揭示现象发展变化的规律，然后将这些知识和信息用于预测。

        比如销售量是上升还是下降，销售量是否与季节有关，是否可以根据现有的数据预测未来一年的销售额等。 对于时间序列的预测，由于很难确定它与其它变量之间的关系，这时我们就不能用回归去预测，而应使用时间序列方法进行预测。采用时间序列分析进行预测时需要一系列的模型，这种模型称为时间序列模型。以下对其分别进行阐述。时间序列对应的机器学习通常属于在线学习 online learning。

2.1 AR与MA相关模型

2.1.1 自回归模型(Auto-Regressive model)

        自回归模型AR，是利用当前时刻之前若干时刻的随机变量的线性组合来描述以后某时刻随机变量的线性回归模型，