12.第八章 平稳随机过程遍历性

第八章 平稳随机过程遍历性

1.时间平均与空间平均

对于随机变量，其加权平均实际上就是数学其期望，也就是
$$\mu =EX=\sum _{k=1}^N{p}_k{x}_k或\mu =EX={\int }_{\mathbb{R}}xp(x)dx$$
由Khinchin大数定律得，独立同分布的随机变量$X_i$，有$\frac{1}{n}{\sum }_{i=1}^n{X}_i\stackrel{P}{\to }\mu$，进而由Kolmogorov大数定律加强为几乎处处收敛。由此，对于一般的随机变量，可以通过多次观察取平均值估计均值，也就是其空间平均。

但对于随机过程的数学期望$\mu (t)$，受限于某些实际条件无法通过反复观察，即多次测量取空间平均，也就是说只有一个观测值，大数定律无法使用。因此利用随机过程的另一维度时间，考虑时间平均，并且只考虑宽平稳过程——二阶矩存在、均值函数为常数、自相关函数只与时间间隔有关。

对于离散型平稳随机过程$\mathbf{X}$，时间参数空间为${\mathbb{Z}}^{+}$，取前$n$个观测值的平均值为
$$\bar{X}=\frac{X_0+X_1+\cdots +X_{n-1}}{n}$$
如果存在一个随机变量$\tau$，使得$({\bar{X}}_n,n\ge 1)$在均方意义下收敛于$\tau$，即$\underset{n\to \infty }{\lim }E(\bar{X}-\tau {)}^2=0$，则称$\tau$为该随机过程的时间平均，简记为
$$\underset{n\to \infty }{\lim }{\bar{X}}_n=\tau$$
如果离散型平稳随机过程$\mathbf{X}$的时间参数空间为$\mathbb{Z}$，则类似取$\bar{X}=\frac{1}{2n+1}\sum _{i=-n}^n{X}_i$，其均方收敛的随机变量为时间平均。

对于连续性平稳随机过程以积分代替求和，若$\mathbf{X}$的时间参数空间为$[0,T]$，则定义时间平均为
$$\bar{X}=\frac{1}{T}{\int }_0^{T}X(t)dt$$
这里的积分，指的是均方可积，即对于积分${\int }_0^{T}X(t)dt$，分割求和为$S_n={\sum }_{k=1}^{n}X(t_k^{\ast })(t_k-t_{k-1})$，这里$t_k^{\ast }$是区间$[t_{k-1},t_k]$，如果存在一个随机变量${\xi }_T$使得$\underset{\underset{k}{\max }(t_k-t_{k-1})\to 0}{\lim }E(S_n-{\xi }_T{)}^2=0$，则称$X(t)$在$[0,T]$内均方可积，且${\int }_0^{T}X(t)dt={\xi }_T$。

• 对于二阶矩过程$X(t)$，$EX(t)<\infty$，如果${\int }_0^T{\int }_0^{T}E(X(s)X(t))dsdt<\infty$，则$X(t)$在$[0,T]$内均方可积。

对于连续性随机过程$\mathbf{X}$，时间参数空间为$[-T,T]$，则定义时间平均为
$$\bar{X}=\frac{1}{2T}{\int }_{-T}^{T}X(t)dt$$
如果希望用时间平均代替空间平均，则希望有$\tau =\mu \text{ a.s.}$，这就是均值遍历性，即平稳随机过程$\mathbf{X}$时间平均等于样本平均（空间平均）的性质。

2.均值遍历性

对于离散时间平稳随机过程$\mathbf{X}=(X_n,n\ge 0),E{X}_n=\mu ,r_X(k)=E(X_0{X}_k)$，那么$\mathbf{X}$满足均值遍历性当且仅当
$$\underset{n\to \infty }{\lim }\frac{1}{n^2}\sum _{k=1}^n(n-k)(r_X(k)-{\mu }^2)=0$$
这等价于$\mathbf{X}$满足均值遍历性当且仅当
$$\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{k=1}^n(r_X(k)-{\mu }^2)=0$$
由此推得，在以上假设下，如果$r_X(k)\to {\mu }^2,k\to \infty$，则$\mathbf{X}$满足均值遍历性。注意此条件相当于随机过程渐进不相关，也就是随着时间差$k$的增大，随机过程的自协方差趋近于0。

对于连续时间平稳随机过程$\mathbf{X}=(X(t),t\ge 0),EX(t)=\mu ,r_X(t)=E(X(0)X(t))$，那么$\mathbf{X}$满足均值遍历性当且仅当
$$\underset{T\to \infty }{\lim }\frac{1}{T^2}{\int }_0^T(T-t)(r_X(t)-{\mu }^2)dt=0$$
这等价于$\mathbf{X}$满足均值遍历性当且仅当
$$\underset{T\to \infty }{\lim }\frac{1}{T}{\int }_0^T(r_X(t)-{\mu }^2)dt=0$$
由此推得，在以上假设下，如果$r_X(T)-{\mu }^2\to 0,T\to \infty$，则$\mathbf{X}$满足均值遍历性。

对于双边时间参数的平稳随机过程，满足均值遍历性的条件也大概相似。

Von Neumann遍历定理：假设$\mathbf{X}=(X_n,n\ge 0)$是平稳随机过程，均值为$\mu$，那么一定存在一个随机变量$\eta$使得$E\eta =\mu$，且
$$\frac{1}{n}\sum _{k=0}^{n-1}{X}_k\stackrel{L^2}{\to }\eta$$
Garrett Birkhoff强遍历定理：假设$\mathbf{X}=(X_n,n\ge 0)$是强平稳随机过程，均值为$\mu$，那么一定存在一个随机变量$\eta$使得$E\eta =\mu$，并且
$$\frac{1}{n}\sum _{k=0}^{n-1}{X}_k\to \eta \text{ a.s.}$$