【时间序列分析】15. 非决定性平稳序列

非决定性平稳序列

非决定性平稳序列

对平稳序列，我们常常考虑用所有的历史信息 { X t : t ≤ n } \{X_t:t\leq n\} {Xt​:t≤n} 对 $X_{n+1}$ 进行最佳线性预测。根据能否做出精准预测，我们可以将平稳序列分为两种：当预测误差为零时， $X_{n+1}$ 的信息完全含在历史资料中，这样的平稳序列被称为决定性平稳序列；当预测误差不为零时，说明 $X_{n+1}$ 的信息不完全含在历史信息的线性组合及其极限完全确定，这样的平稳序列被称为非决定性平稳序列。首先我们先定义历史信息及其预测误差。

设 { X n : n ∈ Z } \{X_n:n\in\Z\} {Xn​:n∈Z} 是零均值平稳序列，将我们可以获得 $m$ 期滞后的历史信息记为
$${\mathbf{X}}_{n,m}=(X_n,X_{n-1},\cdots ,X_{n+1-m}{)}^{\mathrm{T}},$$
当 $m\to \infty$ 时该向量即可表示所有历史信息。

定义
$${\hat{X}}_{n+1,m}=L(X_{n+1}|{\mathbf{X}}_{n,m}),$$

$${\sigma }_{1,m}^2=\mathrm{E}(X_{n+1}-{\hat{X}}_{n+1,m}{)}^2$$

我们知道随着历史信息增多，预测的效果不会更差，因此预测误差 ${\sigma }_{1,m}^2$ 是 $m$ 的单调递减函数。如果我们想要表示用所有历史信息的预测误差，只需求极限
$${\sigma }_1^2=\underset{m\to \infty }{\lim }{\sigma }_{1,m}^2=\underset{m\to \infty }{\lim }\mathrm{E}(X_{n+1}-{\hat{X}}_{n+1,m}{)}^2<\infty ,$$
并且有定理证明该极限与 $n$ 无关。

下面我们引入平稳序列的决定性的定义。

先重述一下之前定义的几个量：
$${\sigma }_{1,m}^2=\mathrm{E}(X_{n+1}-{\hat{X}}_{n+1,m}{)}^2$$
称为用 $m$ 个历史信息对下一个时间点进行预测的均方误差，
$${\sigma }_1^2=\underset{m\to \infty }{\lim }{\sigma }_{1,m}^2=\underset{m\to \infty }{\lim }\mathrm{E}(X_{n+1}-{\hat{X}}_{n+1,m}{)}^2$$
称为用全部历史信息对下一个时间点进行预测的均方误差，即一步预测的均方误差。

平稳序列的决定性的定义：

(1) 如果 ${\sigma }_1^2=0$ ，称 { X t } \{X_t\} {Xt​} 是决定性平稳序列；

(2) 如果 ${\sigma }_1^2>0$ ，称 { X t } \{X_t\} {Xt​} 是非决定性平稳序列。

有一类特殊的决定性平稳序列，其最佳线性预测为可完全线性预测，其满足以下性质：

设平稳序列 { X t } \{X_t\} {Xt​} 的 $n+1$ 阶自协方差矩阵 ${\mathbf{\Gamma }}_{n+1}$ 退化，$|{\mathbf{\Gamma }}_n|>0$ ，则 $X_1,X_2,\cdots ,X_n,X_{n+1}$ 线性相关，所以 $X_{n+1}$ 可以由 $X_1,X_2,\cdots ,X_n$ 线性表示，于是 $L(X_{n+1}|X_n,X_{n-1},\cdots ,X_1)=X_{n+1}$ ，当 $m\ge n$ 时，
$$L(X_{n+1}|X_n,X_{n-1},\cdots ,X_{n-m+1})=X_{n+1},$$
即有 ${\sigma }_{1,m}^2=0$ 进而显然有 ${\sigma }_1^2=0$ ， { X t } \{X_t\} {Xt​} 是决定性平稳序列。

纯非决定性平稳序列

决定性与非决定性取决于平稳序列的一步预测的均方误差是否为零，那么接下来我们继续延伸到 $k$ 步预测。

对于非决定性序列，用 ${\mathbf{X}}_{n,m}$ 预测 $X_{n+k}$ 的误差会随 $k$ 的增大而增大，同理定义
$${\sigma }_{k,m}^2=\mathrm{E}{\left[X_{n+k}-L(X_{n+k}|X_n,X_{n-1},\cdots ,X_{n-m+1})\right]}^2,$$
则 ${\sigma }_{k,m}^2$ 也是 $m$ 的单调递减函数，与 $n$ 无关。

定义 $k$ 步预测的均方误差如下：
$${\sigma }_k^2=\underset{m\to \infty }{\lim }{\sigma }_{k,m}^2=\underset{m\to \infty }{\lim }\mathrm{E}{\left[X_{n+k}-L(X_{n+k}|{\mathbf{X}}_{n,m})\right]}^2$$

考虑用充分多的历史信息对未来 $X_{n+k}$ 进行预测时，$k$ 越大说明预测信息和被预测信息的时间间隔越长，预测的误差就越大。用 { σ k 2 } \{\sigma_k^2\} {σk2​} 序列来表示，即为 ${\sigma }_k^2\ge {\sigma }_{k-1}^2$ 。这一性质通过如下过程即可验证：

$$\begin{array}{rl}{\sigma }_k^2& =\underset{m\to \infty }{\lim }\mathrm{E}{\left[X_{n+k}-L(X_{n+k}|X_n,X_{n-1},\cdots ,X_{n-m+1})\right]}^2\\ & =\underset{m\to \infty }{\lim }\mathrm{E}{\left[X_{n+k-1}-L(X_{n+k-1}|X_{n-1},X_{n-2},\cdots ,X_{n-m})\right]}^2\\ & \ge \underset{m\to \infty }{\lim }\mathrm{E}{\left[X_{n+k-1}-L(X_{n+k-1}|X_n,X_{n-1},\cdots ,X_{n-m})\right]}^2\\ & ={\sigma }_{k-1}^2\end{array}$$

由此说明 ${\sigma }_k^2$ 是 $k$ 的单调不减函数，但要注意 ${\sigma }_{k,m}^2$ 与 $k$ 没有确定的函数单调性。下面我们考虑 { σ k 2 } \{\sigma_k^2\} {σk2​} 的上限，由于
$${\sigma }_k^2\le \mathrm{E}(X_{n+k}-0{)}^2={\gamma }_0$$
所以根据单调收敛定理， { σ k 2 } \{\sigma_k^2\} {σk2​} 序列单调递增且有上界因此必有极限。当 $k\to \infty$ 时，如果 ${\sigma }_k^2\to {\gamma }_0$ ，这说明用充分多的历史信息对遥远的将来进行预测根本没什么效果。引入纯非决定性序列的相关定义。

设 ${X_t} 是非决定性的平稳序列，如果
$$\underset{k\to \infty }{\lim }{\sigma }_k^2={\gamma }_0,$$
就称 { X t } \{X_t\} {Xt​} 是纯非决定性平稳序列。

事实上，对于纯非决定性平稳序列，有如下的结果：
$$\underset{k\to \infty }{\lim }\underset{m\to \infty }{\lim }\mathrm{E}[L(X_{n+k}|X_n,X_{n-1},\cdots ,X_{n-m+1}){]}^2=0$$

这说明用纯非决定性平稳序列做长期或超长期预测是不合适的。

这一结果的证明如下：

记 ${\hat{X}}_{n+k,m}=L(X_{n+k}|X_n,X_{n-1},\cdots ,X_{n-m+1})$ 根据正交和投影的性质（可以理解为勾股定理）有
$${\sigma }_{k,m}^2=\mathrm{E}(X_{n+k}-{\hat{X}}_{n+k,m}{)}^2=\mathrm{E}{X}_{n+k}^2-\mathrm{E}{\hat{X}}_{n+k,m}^2$$
移项之后两边取双重极限得到
$$\underset{k\to \infty }{\lim }\underset{m\to \infty }{\lim }\mathrm{E}{\hat{X}}_{n+k,m}^2=\underset{k\to \infty }{\lim }\underset{m\to \infty }{\lim }\left({\gamma }_0-{\sigma }_{k,m}^2\right)={\gamma }_0-\underset{k\to \infty }{\lim }\underset{m\to \infty }{\lim }{\sigma }_{k,m}^2={\gamma }_0-{\gamma }_0=0.$$