时间序列无痛入门(四)

Echoes638

已于 2025-04-02 09:07:42 修改

阅读量474

点赞数 14

分类专栏：时间序列幼儿园教程文章标签：算法时序数据库数学建模学习人工智能

于 2025-03-26 16:54:13 首次发布

本文链接：https://blog.csdn.net/weixin_67770580/article/details/146513343

版权

时间序列幼儿园教程专栏收录该内容

4 篇文章

订阅专栏

本节主要介绍几个主要的线性时间模型（Linear time series models）

1. 自回归模型 —— Autoregressive Processes (AR)

2. 移动平均模型 —— Moving Average Processes (MA)

3. 自回归移动平均模型 —— Autoregressive Moving Average Processes (ARMA)

4. 自回归整合移动平均模型 —— Autoregressive Integrated Moving Average Processes (ARIMA)

第一印象

模型名称	英文名	含义	特点
自回归模型	Autoregressive (AR)	当前值由过去自身的值线性决定	只依赖历史值；适用于平稳序列；模型简单
移动平均模型	Moving Average (MA)	当前值由过去误差项的线性组合决定	依赖过去的白噪声；适用于平稳序列；可处理短期波动
自回归移动平均模型	Autoregressive Moving Average (ARMA)	综合AR与MA模型，考虑历史值和误差项	更灵活；适用于平稳序列；表达能力强于AR或MA单独使用
自回归整合移动平均模型	Autoregressive Integrated Moving Average (ARIMA)	对非平稳序列进行差分处理后再建ARMA模型	适用于非平稳序列；可处理趋势；实际应用中非常常见

1. 自回归模型 —— Autoregressive Processes (AR)

一般情形

一个阶数为 p 的自回归过程（记作 $AR(p)$ ），是一组随机变量 $\{X_t\}$ ，定义为：

$X_t = \mu + \alpha_1 (X_{t-1} - \mu) + \alpha_2 (X_{t-2} - \mu) + \cdots + \alpha_p (X_{t-p} - \mu) + e_t,$

意思是一个时间点的值是它前 p 个时间点的线性组合，加上一点随机误差。其中 $\mu, \alpha_i \in \mathbb{R}$ ，对 i = 1, $\ldots, p$ ，都是常数参数。

锐评：

• 如果 $\alpha$ 接近 1，表示序列有很强的延续性；

• 如果 $\alpha$ 接近 0，说明几乎是白噪声。

最简单的自回归过程是 AR(1) 模型：

$X_t = \mu + \alpha (X_{t-1} - \mu) + e_t.$

有趣的是： $AR(1)$ 过程 $X_t$ 也可以表示为一个双边无限过程（即无限阶的移动平均 MA 过程）：

$X_t = \mu + \sum_{j=0}^{\infty} \alpha^j e_{t-j},$

期望： $E(X_t) = \mu$

当前时刻的方差 $\gamma_0= \text{Cov}(X_t, X_t)=Var(k)$

$\gamma_0 = \frac{\sigma^2}{1 - \alpha^2} \quad \text{when } |\alpha| < 1.$

当前值与后k期之间的协方差： $\gamma_k = \text{Cov}(X_t, X_{t+k})$

$\gamma_k = \alpha^k \gamma_0,$

推导： $\gamma_k = \text{Cov}(X_t, X_{t-k}) = \text{Cov}(\mu + \alpha(X_{t-1} - \mu) + e_t, X_{t-k}) = \alpha \, \text{Cov}(X_{t-1}, X_{t-k}) = \alpha \gamma_{k-1}$

由此可得： $\gamma_k = \alpha^k \gamma_0 = \alpha^k \frac{\sigma^2}{1 - \alpha^2}$

上述内容表明：要使 AR(1) 过程是平稳的，必须满足 $|\alpha| < 1$

因此特征方程的根要大于1，才能说过程是平稳的

2.移动平均过程（Moving Average Processes）

一般情况：

一个阶数为 q 的移动平均过程（记作 $MA(q)$ ），是一组随机变量 $\{X_t\}$ ，其定义如下：

$X_t = \mu + e_t + \beta_1 e_{t-1} + \cdots + \beta_q e_{t-q},$

解释：一个阶数为 q 的移动平均过程（MA(q)）是由当前误差项和过去 q 个误差项的加权和组成的。

简化版

MA(1) 过程的定义公式为： $X_t = \mu + e_t + \beta e_{t-1}.$

根据白噪声的性质，可以推导出 MA(1) 过程的均值为：

$\mu_t = \mu$

以及它的自协方差函数如下：

• $\gamma_0 = \text{Var}(e_t + \beta e_{t-1}) = (1 + \beta^2)\sigma^2$

• $\gamma_1 = \text{Cov}(e_t + \beta e_{t-1}, e_{t-1} + \beta e_{t-2}) = \beta \sigma^2$

• $\gamma_k = 0 \quad \text{ for } k > 1$

原因是 MA(1) 模型只依赖最多一阶误差项，滞后超过 1 的部分彼此独立，故协方差为 0。

知识点：ACF（自相关函数）不能唯一确定 MA(1) 模型的参数。

ACF（自相关函数）： $\rho_k = \frac{\gamma_k}{\gamma_0}$ ，因此 $\rho_0 = 1, \quad \rho_1 = \frac{\beta}{1 + \beta^2}, \quad \rho_k = 0 \quad \text{for } k > 1$