随机过程基础：3.平稳过程（2）

nnerddboy

于 2024-07-16 02:21:56 发布

阅读量512

点赞数 11

分类专栏：随机过程基础文章标签：随机过程平稳过程

本文链接：https://blog.csdn.net/qq_53529450/article/details/140452827

版权

随机过程基础专栏收录该内容

5 篇文章 0 订阅

订阅专栏

平稳过程是指随机过程的统计特性（如均值、方差、协方差等）不随时间变化。我们可以在时间域或频率域上研究其性质。以下是对平稳过程的协方差函数和功率谱密度的详细讨论。

一、协方差函数

协方差函数就像是描述两个随机变量之间关系的一种“尺子”。想象一下，你有两个朋友，一个朋友每天吃的冰淇淋数量（X），另一个朋友每天喝的汽水数量（Y）。协方差函数就是用来衡量这两个朋友每天消费的冰淇淋和汽水之间是否有某种关联。

如果协方差函数的结果是正数，那就意味着当一个朋友吃更多冰淇淋时，另一个朋友也倾向于喝更多汽水；如果是负数，那就意味着一个朋友吃更多冰淇淋时，另一个朋友可能会喝更少汽水；如果是零，那就意味着这两个朋友的消费行为之间没有明显的关联。

协方差函数 R(τ) 的定义和性质如下：

对称性：R(τ)=R(−τ) ，无论你是先考虑冰淇淋，再考虑汽水，还是反过来，你得到的关联程度是一样的。就像你的朋友 A 吃冰淇淋可能会影响朋友 B 喝汽水，朋友 B 喝汽水也可能会影响朋友 A 吃冰淇淋，这种影响是相等的。
有界性：∣R(τ)∣≤R(0)，这种特性表示，两个随机变量之间的关联程度是有上限的。在我们的例子中，不管 A 吃多少冰淇淋，它对 B 喝汽水的影响程度是有限的，不能无限大。这个上限通常来自于这两个随机变量自身的变化范围。
非负定性：对任意实数 a1,a2,...,aN 及时刻 t1,t2,...,tN $\sum_{n=1}^{N} \sum_{m=1}^{N} a_n a_m R(t_n - t_m) \geq 0$ ，在实际中，意味着不管我们怎么看，两个朋友的消费行为总是有某种程度的关联，而不是完全无关。

常见协方差函数如下：

三角形协方差函数： $R(\tau) = \begin{cases} 1 - \frac{|\tau|}{T}, & |\tau| \leq T, \\ 0, & |\tau| > T. \end{cases}$
指数衰减型协方差函数： $R(\tau) = e^{-\alpha |\tau|}, \alpha > 0$
正态分布型协方差函数： $R(\tau) = e^{-\beta^2 \tau^2}$
振幅调制波：若 $Z(t) = Y(t) e^{j\omega_0 t}$ ，则 $R_Z(\tau) = R_Y(\tau) e^{j\omega_0 \tau}$
频率调制波：若 $X(t) = \cos(Y(t))$ ，其中 Y(t) 是零均值高斯过程，则
$R_X(\tau) = e^{-R_Y(0)} \cosh(R_Y(\tau))$

二、功率谱密度

功率谱密度（PSD）是描述平稳过程在频率域上的分布特性。我们可以利用傅里叶变换将协方差函数转化为功率谱密度。功率谱密度就是告诉我们在观察到的信号中，不同频率的成分有多强，它帮助我们理解这些频率成分是如何组合在一起，构成我们观察到的整体运动或信号的。根据维纳-欣钦(Wiener-Khintchine)定理，功率谱密度 S(ω) 和协方差函数 R(τ) 之间的关系为：

$S(\omega) = \int_{-\infty}^{\infty} R(\tau) e^{-j\omega \tau} d\tau$

反之，

$R(\tau) = \frac{1}{2\pi} \int_{-\infty}^{\infty} S(\omega) e^{j\omega \tau} d\omega$

三、自回归模型和滑动平均模型

想象一下，你正在看一部侦探剧，剧中的侦探需要根据一系列线索来推断罪犯的身份。

1.自回归模型（AR模型）

自回归模型就像是一个侦探，他主要依赖于过去的线索（过去的观察值 $X_{n-1}$ ）来预测下一个线索（下一个观察值 $X_n$ ）。比如说，如果前几集的剧情中，每当出现红色汽车时，接下来都会发生一起盗窃案，那么侦探就会认为，如果下一集又出现了红色汽车，那么很可能又会有一场盗窃案。这就是自回归模型的工作方式，它依赖于历史数据来预测未来。此外他还会考虑到一些不可预测的因素，比如目击者的记忆偏差、证据收集时的偶然错误等（噪音项 $\epsilon_n$ ）。这些不可预测的因素就像是侦探在推理过程中必须考虑的“噪音”，它们可能会影响最终的预测结果。

一阶自回归模型 AR(1):

$X_n = \phi X_{n-1} + \epsilon_n$

其中， $\epsilon_n$ 为白噪声，且 ∣ϕ∣<1。其‘步线性最佳预报’为：

$\hat{X}_{n+\ell | n} = \phi^\ell X_n$
高阶自回归模型 AR(p) :

$X_n = \phi_1 X_{n-1} + \phi_2 X_{n-2} + \cdots + \phi_p X_{n-p} + \epsilon_n$

2.滑动平均模型（MA模型）

MA模型不直接依赖于过去的观察值，而是依赖于过去的预测误差。这些预测误差被视为隐含在数据中的随机冲击，可以帮助我们理解和预测未来的变化。继续使用侦探的比喻，MA模型是有着另一种探案思路的侦探，他不仅关注目前的预测误差或突发事件，还特别关注旧的预测误差或突发事件。案件的结果最新的预测误差 $\epsilon_n$ 抵消一系列过去事件的加权预测误差组合而成。

滑动平均模型 MA(q)：
$X_n = \epsilon_n - \theta_1 \epsilon_{n-1} - \theta_2 \epsilon_{n-2} - \cdots - \theta_q \epsilon_{n-q}$

3.自回归滑动平均模型（ARMA模型）

自回归滑动平均模型（ARMA模型）结合了自回归（AR）和滑动平均（MA）两种模型的特点，可以看作是一位经验丰富的侦探，他既关注过去的案件线索（自回归部分），也关注这些线索中可能包含的随机冲击或意外事件（滑动平均部分）。既考虑了历史案件的模式和趋势，也考虑了可能影响案件结果的随机因素。

自回归部分（AR）类似于侦探根据过去的案件线索来预测当前案件的性质。例如，如果过去的几个案件中都出现了类似的作案手法，侦探可能会推测当前案件也可能采用类似的手法。这部分模型关注的是时间序列数据中的自相关性，即当前值与过去值之间的关系。

滑动平均部分（MA）则类似于侦探考虑每个案件中出现的随机冲击或意外事件。例如，如果某个案件中突然出现了一个关键的新证人，这个证人提供了之前未知的线索，这些线索可能会对案件的解决产生重大影响。这部分模型关注的是时间序列数据中的随机误差项，即当前值与过去预测误差之间的关系。

混合模型 ARMA(p, q):
$X_n - \phi_1 X_{n-1} - \cdots - \phi_p X_{n-p} = \epsilon_n - \theta_1 \epsilon_{n-1} - \cdots - \theta_q \epsilon_{n-q}$

四、预报理论

预报问题包括根据已知数据预报未来数据，最常用的方法是最小均方误差预报。对平稳序列，可以通过递推公式实现多步预报。对于AR模型，预报值是已知数据的线性组合，对于MA模型，通过将模型转化为无穷阶自回归模型，可以得到预报值。对于ARMA模型的预报，可以采用递推方法。利用现有数据和参数估计出过去的随机误差项，然后将这些误差项与观察值结合，逐步推导出未来的预报值。

nnerddboy

关注

11
点赞
踩
11

收藏

觉得还不错? 一键收藏
0
评论
随机过程基础：3.平稳过程（2）

平稳过程的协方差函数和功率谱密度是研究其性质的重要工具。协方差函数描述了随机过程在时间域上的相关性，而功率谱密度描述了其在频率域上的分布特性。利用这些工具，可以建立自回归模型和滑动平均模型，从而实现对平稳序列的有效预报。
复制链接

扫一扫