量化投资基础（四）之AR、MA、ARMA与ARIMA模型

点赞、关注，养成良好习惯
Life is short, U need Python
量化投资基础系列，不断更新中

---

1 引言

时间序列经典模型主要有:

• 自回归模型（Auto Regressive，AR）
• 移动回归模型（Moving Average，MA）
• 移动自回归模型（Auto Regressive Moving Average，ARMA）
• 差分移动自回归模型（Auto Regressive Integrated Moving Average，ARIMA）

本案例主要介绍这四种模型的基本原理以及以沪深300指数收盘价数据为例，探讨如何使用Python对平稳时间序列进行建模和预测分析。

2 AR模型

2.1 理论介绍

自回归模型（Auto Regressive，AR）是一个线性模型，将时间序列变量当期值作为被解释变数、过去期的历史值当作解释变数，因此被称作自回归模型。$p$ 阶自回归模型，即 AR($p$) 的一般表达式为：
$$x_t={\varphi }_0+{\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+\dots +{\varphi }_p{x}_{t-p}+{\epsilon }_t$$
其中， { ε t } \left\{\varepsilon_t\right\} {εt​} 是一个零均值、独立、同分布的白噪声序列，即满足：
$$\mathbb{E}\left({\epsilon }_t\right)=0;\mathrm{Var}\left({\epsilon }_t\right)={\sigma }_{\epsilon }^2;\mathbb{E}\left({\epsilon }_t{\epsilon }_s\right)=0,\forall s\ne t$$
且解释变数 $x_s$ 与残差项 ${\epsilon }_t$ 无相关性，即 $\mathbb{E}\left(x_s{\epsilon }_t\right)=0，\forall s<t$ 。为了研究 AR 模型的统计性质，假设平稳的时间序列 $x_t$ 可以用 AR($2$) 模型来刻画：
$$x_t={\varphi }_0+{\varphi }_1{x}_{t-1}+{\varphi }_2{x}_{t-2}+{\epsilon }_t,|{\varphi }_1|<1,|{\varphi }_2|<1$$
由于平稳时间序列的均值不变，则
$$\mu =\mathbb{E}\left(x_t\right)={\varphi }_0+{\varphi }_1\mathbb{E}\left(x_{t-1}\right)+{\varphi }_2\mathbb{E}\left(x_{t-2}\right)+\mathbb{E}\left({\epsilon }_t\right)$$
即
$$\begin{array}{rl}\mu & ={\varphi }_0+{\varphi }_1\mu +{\varphi }_2\mu +0\\ \mu & =\frac{{\varphi }_0}{1-{\varphi }_1-{\varphi }_2}\end{array}$$
于是
$$\begin{array}{rl}{x}_t-\mu & ={\varphi }_0+{\varphi }_1\left(x_{t-1}-\mu \right)+{\varphi }_2\left(x_{t-2}-\mu \right)+\left({\varphi }_1+{\varphi }_2-1\right)\mu +{\epsilon }_t\\ & ={\varphi }_1\left(x_{t-1}-\mu \right)+{\varphi }_2\left(x_{t-2}-\mu \right)+{\epsilon }_t\end{array}$$
将上式两边分别乘以 $\left(x_{t-1}-\mu \right)$ 并取期望再除以方差 ${\gamma }_0$ 之后，可以得到以下公式：
$$\frac{{\gamma }_1}{{\gamma }_0}={\varphi }_1\frac{{\gamma }_0}{{\gamma }_0}+{\varphi }_2\frac{{\gamma }_1}{{\gamma }_0}$$
其中，${\gamma }_1=Cov(x_t,x_{t-1})$，${\gamma }_0=Cov(x_t,x_t)=Var(x_t)$。
即
$${\rho }_1={\varphi }_1+{\varphi }_2{\rho }_1$$
从而
$${\rho }_1=\frac{{\varphi }_1}{1-{\varphi }_2}$$
同样的方式乘以 $\left(x_{t-2}-\mu \right)$ 并取期望再除以方差 ${\gamma }_0$ 可得：
$${\rho }_2={\varphi }_1{\rho }_1+{\varphi }_2$$
综上可知：
$$\begin{array}{rl}{\rho }_1& =\frac{{\varphi }_1}{1-{\varphi }_2}\\ {\rho }_2& ={\varphi }_1{\rho }_1+{\varphi }_2\end{array}$$

同样的方式时乘以 $\left(x_{t-k}-\mu \right),\forall k⩾3$, 可得三阶以上（包含三阶）的自相关系数：

$${\rho }_k={\varphi }_1{\rho }_{k-1}+{\varphi }_2{\rho }_{k-2}(k⩾3)$$

可以看出符合 $\mathrm{AR}(2)$ 模型的时间序列之 自相关系数 会随着阶数的增加而减小，但是很多阶数之后仍不等于 0 , 会呈现出所谓 拖尾 的现象。

现在将分析拓展至 $\mathrm{AR}(\mathrm{p})$ 模型。如果时间序列是平稳的，可得：
$$\mu =\frac{{\varphi }_0}{1-{\varphi }_1-{\varphi }_2-\cdots -{\varphi }_p}$$
两边减去均值 $\mu$ 可得：
$$x_t-\mu ={\varphi }_1\left(x_{t-1}-\mu \right)+{\varphi }_2\left(x_{t-2}-\mu \right)+\dots +{\varphi }_p\left(x_{t-p}-\mu \right)+{\epsilon }_t$$

两边分别乘以 $\left(x_t-\mu \right)$ 、 $\left(x_{t-1}-\mu \right)、\dots$ 并取期望再除以方差 ${\gamma }_0$ 可得：
$$\begin{array}{rl}1& ={\varphi }_1{\rho }_1+{\varphi }_2{\rho }_2+\dots +{\varphi }_p{\rho }_p\\ {\rho }_1& ={\varphi }_1+{\varphi }_2{\rho }_1+{\varphi }_3{\rho }_2+\cdots +{\varphi }_p{\rho }_{p-1}\\ {\rho }_2& ={\varphi }_1{\rho }_1+{\varphi }_2+{\varphi }_3{\rho }_1+\cdots +{\varphi }_p{\rho }_{p-2}\\ & ⋮\\ {\rho }_p& ={\varphi }_1{\rho }_{p-1}+{\varphi }_2{\rho }_{p-2}+{\varphi }_3{\rho }_{p-3}+\cdots ++{\varphi }_{p-1}{\rho }_1+{\varphi }_p\end{array}$$
根据这些线性关系式，可以解得 ${\rho }_1,{\rho }_2,\dots ,{\rho }_p$，对于大于 $p$ 阶的自相关系数 ${\rho }_k$，也有：

$${\rho }_k={\varphi }_1{\rho }_{k-1}+{\varphi }_2{\rho }_{k-2}+\dots +{\varphi }_p{\rho }_{k-p}$$

因此，符合 $\mathrm{AR}(\mathrm{p})$ 模型的平稳时间序列，其自相关系数在 $p$ 阶之后依然可能不为 0 ，亦会呈现出所谓 拖尾 的现象。

AR($p$) 模型的建模步骤

(1) 序列识别

• 判别序列是否是平稳的。若非平稳的，则需对其变换处理使得其平稳（比如，差分、平滑、变换、分解）。
• 判别平稳的序列是否是白噪声的。若白噪声的（白噪声序列无法构建ARMA模型），则建模结束；否则，进行下一步。

(2) 模型识别

• 确定 $p$ 的值，选择最优的模型。通过平稳序列的偏自相关函数（PACF）确定 $p$。
• 如果偏自相关函数不是很明显的话，可以尝试建立几个备选模型，然后根据AIC或BIC指标进行选择（一般选择较小的AIC或BIC值）。

(3) 模型估计

• 模型估计即模型的参数估计,查看参数对应的 $p$ 值是否显著为0。

(4) 模型诊断

• 对模型残差序列进行检验，确保其服从正态分布的白噪声序列（可以看残差的自相关图，也可以使用假设检验方法D-W检验、Box-Ljung检验、Ljung-Box检验）。当残差序列是白噪声序列时，表明序列中信息充分提取到模型中了。

常用平稳化的方法

（1）差分：差分可以去除序列中的趋势和季节性。一阶差分可以去除线性趋势，如果还有二次趋势，还可以继续二阶差分。二阶差分后还未平稳的话就要注意了，继续差分即便最终平稳了，但是多次差分后解释力下降，且有可能造成过度差分，最差为差分后的序列为白噪声，后面也没法分析了。对于周期型序列也可以用季节差分的方式去除时间序列季节性。

（2）平滑：对当前序列值减去平滑值得到一个残差序列，当平滑结果能比较好的描述原始序列趋势特征的时候，残差序列一般是平稳的，后续可对残差序列进行建模预测。计算平滑值的方法可以用 简单移动平均、加权移动平均、一次指数平滑、二次指数平滑等。同类思想，还可以拟合一个回归方程，用回归方程描述原始序列的趋势特征。

（3）变换：如对数变换，能够去除方差随时间增长的趋势。对数据进行取log处理，变换前的序列必须满足大于0。取对数后，原数据越大，缩小的幅度越大，可以使得方差随时间波动大的时间序列的方差变得更稳定，从而一定程度上使得序列平稳。但也不一定变换后即平稳，比如呈指数趋势的序列，变换后只能将指数趋势转化为线性趋势，此时再使用一阶差分即可将序列变得平稳，同时变换后的数据可以看成增长率的对数，解释性强。其它还有 开根号、Box-Cox变换、Yeo-Johonson变换等。这些变换试图将数据转换为正态分布，虽然对于平稳性来说并不总是必要的，但通常能够纠正序列的非线性问题。

（4）分解：可以将时间序列分解成3部分：长期趋势、季节变动、不规则波动。3种成分相加即加法模型，3种成分相乘即乘法模型，既加又乘即混合模型。分解目的为去除季节性的影响，分解后可对分解出的趋势项、季节项和余项分别进行预测。常用时间序列分解方法有 朴素分解、X11分解、SEATS分解、STL分解等，其中STL分解用的较多。

2.2 实证分析

• 本案例选取沪深300 收盘价（close）日线数据为研究对象!

读取数据

# 导入包
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False
import matplotlib
%matplotlib inline
import warnings
warnings.filterwarnings('ignore')

df = pd.read_csv('000300.csv',index_col='trade_date')
df.index = pd.to_datetime(df.index)
df.head()

（1）模拟AR(1) 过程（数据来源于扰动项${\epsilon }_t$为正态分布的时间序列：np.random.normal）

import statsmodels.api as sma
import scipy.stats as scs

# 先定义一个画图函数
def ts_plot(data,lags=None,title=''): 
    if not isinstance(data, pd.Series):
        data = pd.Series(data)

    # matplotlib官方提供了五种不同的图形风格，
    # 包括：'bmh'、'ggplot'、'dark_background'、'fivethirtyeight'和'grayscale'
    with plt.style.context('ggplot'):
        fig = plt.figure(figsize=(8, 6))

    layout = (3, 2)
    ts_ax = plt.subplot2grid(layout, (0, 0), colspan=2)
    acf_ax = plt.subplot2grid(layout, (1, 0))
    pacf_ax = plt.subplot2grid(layout, (1, 1))
    qq_ax = plt.subplot2grid(layout, (2, 0))
    pp_ax = plt.subplot2grid(layout, (2, 1))

    data.plot(ax=ts_ax)
    ts_ax.set_title(title+'时序图')

    sma.graphics.tsa.plot_acf(data, lags=lags, ax=acf_ax, alpha=0.5)
    acf_ax.set_title('自相关系数')

    sma.graphics.tsa.plot_pacf(data, lags=lags, ax=pacf_ax, alpha=0.5)
    pacf_ax.set_title('偏自相关系数')

    sma.qqplot(data, line='s', ax=qq_ax)
    qq_ax.set_title('QQ 图')

    scs.probplot(data, sparams=(data.mean(),data.std()), plot=pp_ax)
    pp_ax.set_title('PP 图')

    plt.tight_layout()
    plt.show()

# 模拟AR(1) 过程：x_t = phi_0 + phi_1 * x_{t-1} + w_t
# 设置随机种子（括号里数字无意义，只是为了复现需要）
np.random.seed(1)
# 模拟次数
n = 5000
# AR模型的参数
a = 0.8                              # phi_1 = 0.8
# 扰动项为正态分布
x = w = np.random.normal(size=n)
for t in range(1,n):
    x[t] = a * x[t-1] + w[t]         # phi_0 = 0

#画图
ts_plot(x,lags=20)

结论：模拟的 AR(1) 模型是正态的。自相关系数图（ACF）显示滞后值之间存在显著的序列相关性，偏自相关系数图（PACF）则显示在滞后1期时截尾（迅速降为0）。

• 假如模拟的AR(1)模型是正确的，那么估计的系数参数将很接近真实的系数0.8，选择的阶数也会等于1。

from statsmodels.tsa.ar_model import AutoReg
from statsmodels.tsa.ar_model import ar_select_order

省略代码详见资源包！

（2）利用 AR($p$) 模型来拟合沪深300的收盘价（df.close）

省略代码详见资源包！

3 MA模型

3.1 理论介绍

MA($q$) 模型与 AR($p$) 模型非常相似。

不同之处在于，MA($q$) 模型是对过去的白噪声误差项的线性组合，而不是过去观测值的线性组合。

MA 模型的动机是可以直接通过拟合误差项的模型来观察误差过程中的 “冲击”。在 AR 模型中，通过在一系列过去的观察中使用ACF间接观察到这些冲击。
MA($q$) 模型认为因变量序列 $x_t$ 与随机冲击项的当前值 ${\epsilon }_t$ 及 $q$ 期滞后值 ${\epsilon }_{t-1},{\epsilon }_{t-2},\dots$, ${\epsilon }_{t-q}$ 有关, 而且是随机冲击项的加权平均, 因此被称作移动平均模型。一个 $q$ 阶移动平均模型 MA($q$) 可以用数学表达为:

$$x_t=\mu +{\epsilon }_t+{\theta }_1{\epsilon }_{t-1}+{\theta }_2{\epsilon }_{t-2}+\dots +{\theta }_q{\epsilon }_{t-q}$$

其中 { ε t } \left\{\varepsilon_t\right\} {εt​} 是均值为零、独立、同分布的白噪声序列, 满足：

$$\mathbb{E}\left({\epsilon }_t\right)=0;\mathrm{Var}\left({\epsilon }_t\right)={\sigma }_{\epsilon }^2;\mathbb{E}\left({\epsilon }_t{\epsilon }_s\right)=0,\forall s\ne t$$

由于 MA($q$) 仅仅是白噪声过程的线性组合, 因此有:

$$\begin{array}{rl}& \mathbb{E}\left(x_t\right)=\mu ,\\ & \mathrm{Var}\left(x_t\right)={\gamma }_0=\left(1+{\theta }_1^2+{\theta }_2^2+\cdots +{\theta }_q^2\right){\sigma }_{\epsilon }^2\text{, }\\ & {\rho }_l=\{\begin{array}{ll}1,& l=0\\ \frac{{\theta }_l+{\theta }_{l+1}{\theta }_1+{\theta }_{l+2}{\theta }_2+\dots +{\theta }_q{\theta }_{q-l}}{1+{{\theta }_1}^2+{{\theta }_2}^2+\dots +{{\theta }_q}^2},& \forall l=1,2,\dots ,q\\ 0,& \forall l>q\end{array}\\ & \end{array}$$
由以上公式可以得知 MA($q$) 模型一个很重要的统计性质：MA($q$) 模型自相关系数 $q$ 阶截尾。所谓的 $q$ 阶截尾是指, 在 $q$ 阶以后 MA($q$) 模型的自相关系数马上截止, $q+1$ 阶起就等于 0 (即上式 ${\gamma }_l=0,\forall l>q$ 所表达的内容)。考虑 AR 模型和 MA 模型自相关系数的性质, 可以根据自相关图（ACF）, 来初步判断所研究的时间序列大致符合什么类型的模型。

3.2 实证分析

（1）模拟MA(1) 过程（数据来源于包：smt.arma_generate_sample）

省略代码详见资源包！

（2）利用 MA($q$) 模型来拟合 沪深300 的收盘价（df.close）

序列识别

省略代码详见资源包！

模型识别（定阶）

• 通过自相关函数（ACF）可视化定阶！
  
  
• 根据最小化AIC准则确定 $q$。计算比较耗时，为了控制计算量，这里限制MA最大阶不超过3。大家可以尝试其它准则定阶（比如，BIC和HQIC）。

省略代码详见资源包！

模型估计

以MA(3)模型为例！

省略代码详见资源包！

模型诊断

可视化 残差 直方图、QQ图，看是否正态分布，可视化ACF看是否仍存有自相关性。


残差的白噪声检验（Ljung-Box检验）。

省略代码详见资源包！

4 ARMA模型

4.1 理论介绍

AR($p$) 模型认为时间序列中当期的值与过去 $p$ 期的滞后值有关，MA($q$) 模型则用滞后 $q$ 期的随机扰动项来解释当期的 $x_t$。不过在金融经济领域中，很多变量的值既会与自己过去期的表现有关系，又受到过去随机冲击的影响，ARMA模型表达的就是这个思想。ARMA模型全称为自回归移动平均（Autoregressive Moving Average，ARMA）模型，是研究时间序列的重要方法，由AR模型与MA模型混合构成。

ARMA($p$,$q$)模型的一般表达式为:

$$x_t={\varphi }_0+{\varphi }_1{x}_{t-1}+\cdots +{\varphi }_p{x}_{t-p}+{\theta }_1{\epsilon }_{t-1}+\cdots +{\theta }_q{\epsilon }_{t-q}+{\epsilon }_t.$$

其中，${\epsilon }_t$是零均值、独立、同分布白噪声序列，满足：

$$\mathbb{E}\left({\epsilon }_t\right)=0;\mathrm{Var}\left({\epsilon }_t\right)={\sigma }_{\epsilon }^2;\mathbb{E}\left({\epsilon }_t{\epsilon }_s\right)=0,\forall s\ne t$$

很显然，相较于 AR($p$) 和 MA($q$) 模型， ARMA($p$, $q$) 更具有普适性， AR($p$)是 $q=0$ 时的 ARMA($p$, $q$) 模型, MA($q$) 模型是当 $p=0$ 时的 ARMA($p$, $q$) 模型。

从金融的角度理解，AR 和 MA 模型的理论意义在于：AR($p$)模型试图捕捉（解释）交易市场中经常观察到的动量和均值回复效应；MA($q$)模型尝试捕捉（解释）在白噪声条件下观察到的冲击效应，这些冲击效应可以被认为是影响观察过程的意外事件。ARMA模型的弱点在于忽视了大多数金融时间序列中的波动聚集效应。

ARMA($p$, $q$) 模型的建模过程

(1) 序列识别

• 判别序列是否是平稳的。若非平稳的，则需对其变换处理使得其平稳（比如，差分、平滑、变换、分解）。
• 判别平稳的序列是否是白噪声的。若白噪声的（白噪声序列无法构建ARMA模型），则建模结束；否则，进行下一步。

(2) 模型识别

• 确定 $p$ 和 $q$ 的值，选择最优的模型。通过序列的自相关（ACF）确定 $q$ 和偏自相关函数（PACF）确定 $p$。
• 如果自相关和偏自相关函数不是很明显的话，可以尝试建立几个备选模型，然后根据AIC或BIC指标进行选择（一般选择较小的AIC或BIC值）。

(3) 模型估计

• 模型估计即模型的参数估计，查看参数对应的 $p$ 值是否显著为0。

(4) 模型诊断

• 对模型残差序列进行检验，确保其服从正态分布的白噪声序列。当残差序列是白噪声序列时，表明序列中信息充分提取到模型中了。

4.2 实证分析

省略代码详见资源包！

模型检验

可视化 残差 直方图、QQ图，看是否正态分布，可视化ACF看是否仍存有自相关性。


残差的白噪声检验（Ljung-Box检验）。

省略代码详见资源包！

模型评估

• 利用拟合模型的 predict() 方法对沪深300的收盘价进行预测（拟合）。

省略代码详见资源包！

5 ARIMA模型

5.1 理论介绍

ARIMA模型全称是差分移动自回归模型（Autoregressive Integrated Moving Average Models，ARIMA），是ARMA模型的拓展。

由于现实中很多时间序列不是平稳的，但可以通过差分来实现平稳，即通过 一阶差分 可以将 非平稳 序列转化为 平稳 序列。

由于前三个模型都有时间序列平稳的假设，如果时间序列存在明显的上升或者下降趋势，模型预测的效果大大折扣。对于有明显下降或者上升趋势的数据集，可以使用差分的方式将其转化为平稳序列，然后使用ARMA模型进行拟合。

假设模型经过 $d$ 次差分通过了时间序列平稳的检验，ARMA的系数为 $p$ 和 $q$，则 ARIMA 模型为 ARIMA($p$,$d$,$q$）。

5.2 实证分析

由于沪深300收盘价序列经过一阶差分后为平稳时间序列。因此, ARIMA($p$,$d$,$q$）模型即为ARIMA($p$,1,$q$）！特别提醒：是模型中研究对象为沪深300的收盘价序列（df.close）!

省略代码详见资源包！

6. 结束语

本文主要以沪深300指数收盘价数据为例，简要介绍了时间序列四大经典模型的基本原理和Python实证分析。不难发现，这些模型在拟合和预测沪深300指数收盘价上样本内拟合效果还不错，但样本外效果不是很好（读者可以结合资源包代码自己尝试）。

实际上，这些模型有一个潜在假设是干扰项的方差是固定不变的，但是研究者发现金融数据（如股票收益率）大都存在异方差现象，因此传统的时间序列模型无法获得可靠的估计结果。

为了解决金融资产收益率序列波动聚集的难题，学者们提出了 ARCH、GARCH 以及 协整模型，接下来将会对这些模型进行详细介绍并给出相应的Python实证分析。

7. 参考资料

• 蔡立耑. 量化投资以Python为工具[M]. 北京：电子工业出版社，2017.
• PyQuant. 量化投资基础[M]. 北京：科学出版社，2024.

8. 资源包下载

• 链接：https://pan.baidu.com/s/1oSH2088fgDMAo-keiwCbSA
• 提取码：1234

---

• 写作不易，切勿白剽
• 点赞关注，最大鼓励
• 持续更新，未完待续…