【时间序列分析】17. 时间序列的递推预测

时间序列的递推预测

时间序列的递推预测

有了之前的理论基础，我们开始讨论递推预测的问题，在这里我们假设自协方差函数已知。

设 { Y t } \{Y_t\} { Yt​} 是方差有限的零均值时间序列，对任何正整数 $n$ ，用
L n = s p ‾ { Y 1 , Y 2 , ⋯   , Y n } L_n=\overline{\rm sp}\{Y_1,Y_2,\cdots,Y_n\} Ln​=sp​{ Y1​,Y2​,⋯,Yn​}
表示 $Y_1,Y_2,\cdots ,Y_n$ 的线性组合全体，定义 ${\mathbf{Y}}_n=(Y_1,Y_2,\cdots ,Y_n{)}^{\mathrm{T}}$ 。为方便讨论 { Y t } \{Y_t\} { Yt​} 的递推预测问题
$${\hat{Y}}_n=L(Y_n|{\mathbf{Y}}_{n-1}),$$

我们引入预测误差 $W_n$ 及其方差 ${\nu }_{n-1}$
$$\begin{gathered} W_n=Y_n-{\hat{Y}}_n, \\ {\nu }_{n-1}=\mathrm{E}(W_n^2). \end{gathered}$$
首先考虑第一项，由于没有任何历史信息，所以 $Y_1$ 的预测是无效的，即 ${\hat{Y}}_1=0$ 。此时预测误差为 $W_1=Y_1-{\hat{Y}}_1=Y_1$ ，预测误差的方差为 ${\nu }_0=\mathrm{E}{W}_1^2=\mathrm{E}{Y}_1^2$ 。此时，我们定义了三个序列的递推式及其初始值，只要获得一定的历史信息便可以实现递推预测。

下面分析一下预测误差序列 { W n } \{W_n\} { Wn​} 在 Hilbert 空间上的性质。根据最佳线性预测的性质，$W_n\perp {\mathbf{Y}}_{n-1}$ ，即 $W_n$ 和 $L_{n-1}$ 中的任何一个随机变量正交，并且 $W_n\in L_n$ ，于是 { W n } \{W_n\} { Wn​} 是一个正交序列，满足
$$\mathrm{E}(W_n{W}_k)={\nu }_{n-1}{\delta }_{n-k}.$$
其中 ${\delta }_t$ 是 Kronecker 函数：
$${\delta }_{n-k}=\{\begin{array}{ll}1,& n=k;\\ 0,& n\ne k.\end{array}$$
由于 { W n } \{W_n\} { Wn​} 正交序列的性质，相比于 { Y n } \{Y_n\} { Yn​} ，如果可以用来进行预测则有很多的方便。类似于在正交基上的投影，可以直接计算坐标。下面证明用 ${\mathbf{W}}_{\mathbf{n}}=(W_1,W_2\cdots ,W_n{)}^{\mathrm{T}}$ 对 $Y_{n+1}$ 进行预测和用 ${\mathbf{Y}}_n=(Y_1,Y_2,\cdots ,Y_n{)}^{\mathrm{T}}$ 对 $Y_{n+1}$ 进行预测是等价的。

定义 $M_n$ 表示 $W_1,W_2,\cdots ,W_n$ 的全体线性组合：
M n ≜ s p ‾ { W 1 , W 2 , ⋯   , W n }   , M_n\triangleq\overline{\rm sp}\{W_1,W_2,\cdots,W_n\} \ , Mn​≜sp​{ W1​,W2​,⋯,Wn​} ,
利用之前的 $W_n\in L_n$ 易知有 $M_n\subset L_n$ 。

利用数学归纳法证明 $Y_n\in M_n$ :

当 $n=1$ 时，有 $Y_1=W_1\in M_1$ 。

如果对 $k\le n$ 都有 $Y_n\in M_n$ ，则考虑当 $k=n+1$ 时的情况，

由于 ${\hat{Y}}_{n+1}=L(Y_{n+1}|{\mathbf{Y}}_n)\in M_n$ 于是
$$Y_{n+1}=(Y_{n+1}-{\hat{Y}}_{n+1})+{\hat{Y}}_{n+1}=W_{n+1}+{\hat{Y}}_{n+1}\in M_{n+1},$$
这就证明了对 $\forall n\in \mathbb{N}$， $Y_n\in M_n$ 成立。

于是得到
L n = s p ‾ { Y 1 , Y 2 , ⋯   , Y n } = s p ‾ { W 1 , W 2 , ⋯   , W n } = M n L_n=\overline{\rm sp}\{Y_1,Y_2,\cdots,Y_n\}=\overline{\rm sp}\{W_1,W_2,\cdots,W_n\}=M_n Ln​=sp​{ Y1​,Y2​,⋯,Yn​}=sp​{ W1​,W2​,⋯,Wn​}=Mn​
因此利用预测误差序列 { W t } \{W_t\} { Wt​} 代替原时间序列 { Y t } \{Y_t\} { Yt​} 进行线性预测是等价的。

下面给出计算计算零均值时间序列的预测的一个重要的定理：递推预测定理。

设 { Y t } \{Y_t\} { Yt​} 是零均值平稳序列，如果 $(Y_1,Y_2,\cdots ,Y_{m+1}{)}^{\mathrm{T}}$ 的协方差矩阵正定，则最佳线性预测可以用如下的公式表示：
$${\hat{Y}}_{n+1}\triangleq L(Y_{n+1}|{\mathbf{Y}}_n)=\sum _{j=0}^{n-1}{\theta }_{n,n-j}{W}_{j+1},$$
其中的系数 { θ n , j } \{\theta_{n,j}\} { θn,j​} 和预测的均方误差 ${\nu }_n=\mathrm{E}{W}_{n+1}^2$ 满足如下的递推公式：
{ ν 0 = E Y 1 2   , θ n , n − k = E ( Y n + 1 Y k + 1 ) − ∑ j = 0 k − 1 θ k , k − j θ n , n − j ν j ν k   ,      0 ≤ k ≤ n − 1 ν n = E Y n + 1 2 − ∑ k = 0 n − 1 θ n , n − k 2 ν k   , \left\{ \begin{array}{l} \nu_0={\rm E}Y_1^2 \ , \\ \theta_{n,n-k}=\dfrac{ {\rm E}(Y_{n+1}Y_{k+1})-\displaystyle\sum_{j=0}^{k-1}\theta_{k,k-j}\theta_{n,n-j}\nu_j}{\nu_k} \ , \ \ \ \ 0\leq k\leq n-1 \\ \nu_n={\rm E}Y_{n+1}^2-\displaystyle\sum_{k=0}^{n-1}\theta_{n,n-k}^2\nu_k \ , \end{array} \right. ⎩⎪⎪⎪⎪⎪⎪⎪