自回归模型（AR ）

最近看到一些模型使用了自回归方法，这里就学习一下整理一下相关内容方便以后查阅。

自回归（Autoregression，简称AR）是一类广泛应用于时间序列分析和建模的统计模型。它的核心思想是将当前时刻的数据值表示为过去若干时刻数据值的线性组合，以及一个随机误差项。通过这种方式，自回归模型能够捕捉时间序列内部的自相关结构，从而实现对未来值的预测、对数据生成机制的理解，或对信号特征的建模。

自回归模型（AR ）

AR 模型的引入

考虑如图所示的单摆系统。设 $x_t$ 为第 $t$ 次摆动过程中的摆幅。根据物理原理，第 $t$ 次的摆幅 $x_t$ 由前一次的摆幅 $x_{t-1}$ 决定，即有 $x_t=a_1{x}_{t-1}$。考虑到空气振动的影响，我们往往假设
$$x_t=a_1{x}_{t-1}+{\epsilon }_t,t\ge 1$$

其中，随机干扰 ${\epsilon }_t\sim N(0,{\sigma }^2)$。

设初始时刻 $x_0=1$，现在取不同的 $a_1$ 和 $\sigma$ 值进行实验。实验结果如下图。

可以看出，参数 $a_1$ 对序列的稳定性起到决定性的作用，而噪声强度 ${\sigma }^2$ 决定了序列的波动程度。

在这里，我们称第一个公式为一阶自回归模型。更一般地，可以考虑序列值 $x_t$ 可由前 $p$ 个时刻的序列值及当前的噪声表出，即
$$x_t=a_1{x}_{t-1}+a_2{x}_{t-2}+\cdots +a_p{x}_{t-p}+{\epsilon }_t$$

其中，$a_j$ 为参数，${\epsilon }_t$ 为白噪声。

AR 模型的定义

如果 ${\epsilon }_{\mathrm{t}}$为白噪声,服从 $N(0,{\sigma }^2)$，${\mathrm{a}}_0,{\mathrm{a}}_1,...,{\mathrm{a}}_{\mathrm{p}}({\mathrm{a}}_{\mathrm{p}}\ne \mathrm{o})$为实数,就称 $p$ 阶差分方程
$$X_t=a_0+a_1{X}_{t-1}+a_2{X}_{t-2}+\cdots +a_p{X}_{t-p}+{\epsilon }_t,t\in \mathbb{Z}$$

是一个 $p$ 阶自回归模型，简称 $AR($