【时间序列分析】11.AR(1)和AR(2)模型

十一、$\mathrm{A}\mathrm{R}(1)$和$\mathrm{A}\mathrm{R}(2)$模型

1.$\mathrm{A}\mathrm{R}(1)$模型

$\mathrm{A}\mathrm{R}(1)$模型的形式是$X_t=a{X}_{t-1}+{\epsilon }_t$， { ε t } ∼ W N ( 0 , σ 2 ) \{\varepsilon_t\}\sim {\rm WN}(0,\sigma^2) {εt​}∼WN(0,σ2)，满足最小相位条件的$a$取值域是$|a|<1$。我们已经在之前的讨论中，得出了它的平稳解是
$$X_t=\sum _{j=0}^{\infty }{a}^j{\epsilon }_{t-j}.$$
自协方差函数与自相关函数是
$$\begin{gathered} {\gamma }_0={\sigma }^2\sum _{j=0}^{\infty }{a}^{2j}=\frac{{\sigma }^2}{1-a^2}, \\ {\gamma }_k=a{\gamma }_{k-1}=\cdots =a^k{\gamma }_0, \\ {\rho }_k=\frac{{\gamma }_k}{{\gamma }_0}=a^k. \end{gathered}$$
谱密度为
$$f(\lambda )=\frac{{\sigma }^2}{2\pi |1-a{e}^{\mathrm{i}\lambda }{|}^2}=\frac{{\sigma }^2}{2\pi [1+a^2-2a\cos \lambda ]},\pi \in [-\pi ,\pi ]$$
通过绘制谱密度图， 可以发现，当$a>0$时，谱密度峰值出现在中间，即$f(\lambda )<f(0)$；当$a<0$时，谱密度峰值出现在两侧，即$f(\lambda )<f(\pi )$。

2.$\mathrm{A}\mathrm{R}(2)$模型的稳定域

$\mathrm{A}\mathrm{R}(2)$模型的自回归系数为$(a_1,a_2)$，形式是$X_t=a_1{X}_{t-1}+a_2{X}_{t-2}+{\epsilon }_t$，这里 { ε t } ∼ W N ( 0 , σ 2 ) \{\varepsilon_t\}\sim {\rm WN}(0,\sigma^2) {εt​}∼WN(0,σ2)，特征多项式为$A(z)=1-a_{1}z-a_2{z}^2$，还要满足最小相位条件，即$A(z)\ne 0,|z|\le 1$。在满足稳定性条件的前提下，自回归系数有什么特征呢？以下给出一个定理。

自回归系数为$(a_1,a_2)$的$\mathrm{A}\mathrm{R}(2)$模型，它的稳定性条件是：
$$a_2\pm a_1<1,|a_2|<1.$$
我们将 A = { ( a 1 , a 2 ) : a 2 ± a 1 < 1 , ∣ a 2 ∣ < 1 } \mathscr A=\{(a_1,a_2):a_2\pm a_1<1,|a_2|<1\} A={(a1​,a2​):a2​±a1​<1,∣a2​∣<1}称为$\mathrm{A}\mathrm{R}(2)$模型的稳定域。

这里给出对稳定域的证明。当$z_1,z_2$都是复根，即为$a\pm \mathrm{i}b$，稳定的条件是$\sqrt{a^2+b^2}>1$。对特征多项式$A(z)=1-a_{1}z-a_2{z}^2=0$进行求解，得到
$$\begin{gathered} \Delta =a_1^2+4a_2<0\Rightarrow a_2<-\frac{a_1^2}{4}\le 0 \\ {z}_1{z}_2=(a+\mathrm{i}b)(a-\mathrm{i}b)=a^2+b^2=\frac{1}{-a_2}>1\Rightarrow -1<a_2<0 \\ \Downarrow \\ -1<a_2<-\frac{a_1^2}{4}\le 0,|a_1|<2. \end{gathered}$$
当$z_1,z_2$都是实根时，分类讨论：

1. $a_2>0,a_1>0$，此时有$\Delta =a_1^2+4a_2>0$显然成立，且$A(z)$的对称轴$-a_1/2a_2<0$，由二次函数知识知道只需要$-A(1)=-1+a_1+a_2<0$，即$a_2+a_1<1$。
2. $a_2>0,a_1<0$，此时有$\Delta >0$显然成立，且$A(z)$的对称轴$-a_1/2a_2>0$，由二次函数知识知道只需要$-A(-1)=-1-a_1+a_2<0$，即$a_2-a_1<1$。
3. $a_2<0,a_1>0$，此时要$\Delta =a_1^2+4a_2>0$，就有$a_1^2>-4a_2$，且对称轴$-a_1/2a_2>0$，由二次函数知识知道需要$-A(1)<0$即$a_2+a_1<1$，且$-a_1/2a_2>1$即$-2a_2<a_1$。
4. $a_2<0,a_1>0$，此时要$\Delta >0$依然要$a_1^2>-4a_2$，且对称轴$-a_1/2a_2<0$，由二次函数知识知道需要$-A(-1)<0$即$a_2-a_1<0$，且$-a_1/2a_2<-1$，即$a_1<2a_2$。
5. $a_1=0,a_2>0$，此时要$-A(1)<0$，即$a_2<1$。

综上所述，我们可以绘制稳定域图如下：

其中横轴为$a_1$，纵轴为$a_2$，蓝色部分表示$z_1,z_2$为实根，红色部分表示复根，分界为$a_2=-a_1^2/4$。

3.$\mathrm{A}\mathrm{R}(2)$模型的自相关系数与允许域

在满足稳定性条件的情况下，由Yule-Walker方程，可以得到
$${\gamma }_k=a_1{\gamma }_{k-1}+a_2{\gamma }_{k-2},k\ge 1.$$
两边同时除以${\gamma }_0$，就得到$k\ge 1$时自相关系数满足的方程：
$${\rho }_k=a_1{\rho }_{k-1}+a_2{\rho }_{k-2},k\ge 1.$$
在$\mathrm{A}\mathrm{R}(2)$模型中，自相关系数还能表示出自回归系数，并且自回归系数也能由自相关系数表出。

由Yule-Walker方程还能得到Yule-Walker系数为
$$\begin{gathered} a_{1,1}={\gamma }_1/{\gamma }_0={\rho }_1,a_{2,1}=a_1,a_{2,2}=a_2, \\ {a}_{j,j}=0,j>2. \end{gathered}$$
由Levinson递推方程，有
$$\begin{gathered} a_{2,2}=a_2=\frac{{\gamma }_2-a_{1,1}{\gamma }_1}{{\gamma }_0-a_{1,1}{\gamma }_1}\underset{/{\gamma }_0}{\overset{/{\gamma }_0}{=}}\frac{{\rho }_2-{\rho }_1^2}{1-{\rho }_1^2}, \\ {a}_{2,1}=a_1=a_{1,1}-a_{2,2}{a}_{1,1}={\rho }_1\left(1-\frac{{\rho }_2-{\rho }_1^2}{1-{\rho }_1^2}\right)=\frac{{\rho }_1(1-{\rho }_2)}{1-{\rho }_1^2}. \end{gathered}$$
这就得到
$$a_1=\frac{{\rho }_1(1-{\rho }_2)}{1-{\rho }_1^2},a_2=\frac{{\rho }_2-{\rho }_1^2}{1-{\rho }_1^2}.$$
反解得到
$${\rho }_1=\frac{a_1}{1-a_2},{\rho }_2=a_2+\frac{a_1^2}{1-a_2}.$$
现在我们可以导出允许域，即$(a_1,a_2)$在稳定域 A = { ( a 1 , a 2 ) : a 2 ± a 1 < 1 , ∣ a 2 ∣ < 1 } \mathscr A=\{(a_1,a_2):a_2\pm a_1<1,|a_2|<1\} A={(a1​,a2​):a2​±a1​<1,∣a2​∣<1}中运动时，$({\rho }_1,{\rho }_2)$也在一个范围内运动，这个范围称为允许域$\mathcal{C}$，形式为
C = { ( ρ 1 , ρ 2 ) : ρ 1 2 < 1 + ρ 2 2 , ∣ ρ 1 ∣ < 1 , ∣ ρ 2 ∣ < 1 } . \mathscr C=\{(\rho_1,\rho_2):\rho_1^2<\frac{1+\rho_2}{2},|\rho_1|<1,|\rho_2|<1\}. C={(ρ1​,ρ2​):ρ12​<21+ρ2​​,∣ρ1​∣<1,∣ρ2​∣<1}.

4.$\mathrm{A}\mathrm{R}(2)$序列的谱密度

$\mathrm{A}\mathrm{R}(2)$序列的密度为
$$f(\lambda )=\frac{{\sigma }^2}{2\pi |1-a_1{e}^{\mathrm{i}\lambda }-a_2{e}^{2\mathrm{i}\lambda }{|}^2}.$$
如果$(a_1,a_2)$落在稳定域的复值部分，即$a_2<-\frac{1}{4}{a}_1^2$时，$z_1,z_2=\rho e^{\pm \mathrm{i}{\lambda }_0}$，如果$\rho$靠近1，则谱密度在${\lambda }_0$附近存在一个峰值，即$\mathrm{A}\mathrm{R}(2)$序列的角频率大约是${\lambda }_0$。

回顾总结

1. $\mathrm{A}\mathrm{R}(1)$模型的稳定性条件为$0<|a|<1$。

2. $\mathrm{A}\mathrm{R}(1)$序列的谱密度为
   $$f(\lambda )=\frac{{\sigma }^2}{2\pi (1+a^2-2a\cos \lambda )}.$$
   如果$a<0$则谱密度两边高中间低，如果$a>0$则谱密度中间高两边低。

3. $\mathrm{A}\mathrm{R}(1)$序列的方差为${\gamma }_0={\sigma }^2/(1-a^2)$，自协方差函数为${\gamma }_k=a^k{\gamma }_0$，相关系数为${\rho }_k=a^k$。

4. $\mathrm{A}\mathrm{R}(2)$模型的稳定域和允许域分别为
   A = { ( a 1 , a 2 ) : a 2 < − 1 4 a 1 2 , a 2 ± a 1 < 1 , ∣ a 2 ∣ < 1 } , C = { ( ρ 1 , ρ 2 ) : ρ 1 2 < 1 + ρ 2 2 , ∣ ρ 1 ∣ < 1 , ∣ ρ 2 ∣ < 1 } . \mathscr A=\{(a_1,a_2):a_2<-\frac14a_1^2,a_2\pm a_1<1,|a_2|<1 \},\\ \mathscr C=\{(\rho_1,\rho_2):\rho_1^2<\frac{1+\rho_2}{2},|\rho_1|<1,|\rho_2|<1 \}. A={(a1​,a2​):a2​<−41​a12​,a2​±a1​<1,∣a2​∣<1},C={(ρ1​,ρ2​):ρ12​<21+ρ2​​,∣ρ1​∣<1,∣ρ2​∣<1}.

5. $\mathrm{A}\mathrm{R}(2)$序列的谱密度为
   $$f(\lambda )=\frac{{\sigma }^2}{2\pi |1-a_1{e}^{\mathrm{i}\lambda }-a_2{e}^{2\mathrm{i}\lambda }{|}^2}.$$
   如果存在一对共轭复根$\rho e^{\mathrm{i}{\lambda }_0}$，则谱密度在$\lambda ={\lambda }_0$处表现出峰值。