【随机过程】 4 -随机过程的频域分析2 - 谱表示

随机过程的频域分析

1. 谱表示的定义

  对随机过程做傅里叶分析的困难在于，随机过程一般不是绝对可积的，积分不收敛就没有办法做傅里叶变换。

  如果随机过程能够做傅里叶变换的话，应该是写成这样的

$$Z(t)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }Z(\omega )exp(j\omega t)d\omega$$

  我们之前采取的方案是，采用二阶矩的方法定义谱，基于相关函数是收敛的角度，找到了功率谱，进行随机过程谱的表示，这是一种物理上的方法

  现在，我们用一种更为数学的方法进行描述。因为积分存在不收敛的情况，我们就用原函数的形式表示频谱。这样的话，不收敛的地方，其实就是频率的不可微的点。通过找原函数的形式，我们能够避免求积分不收敛的问题。

$$F(\omega )=\int Z(\omega )d\omega$$

  因此，我们就可以用Stieltjes integral的形式，重新表示随机过程

$$\begin{gathered} \text{Stieltjes integral} \\ Z(t)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j\omega t)dF(\omega ) \end{gathered}$$

  我们之前介绍的功率谱，是从二阶量的角度去描述随机过程的谱，现在，我们使用谱表示，能够基于一阶的形式去描述随机过程的谱了

  在这里面F(ω)也是一个随机过程，叫做谱过程，因为是以频率为标记的一个随机过程。因此dF(ω)实际上是有随机性的。

2. 谱表示的性质

2.1 概述

  谱表示是一个正交增量过程，具有这样的性质

$$\begin{gathered} (1)\omega \cancel{=}{\omega }^{\prime }\Rightarrow E(d{F}_Z(\omega )\overline{dF(\omega )})=0 \\ (2)\omega ={\omega }^{\prime }\Rightarrow E(d{F}_Z(\omega )\overline{dF(\omega )})=E|d{F}_Z(\omega ){|}^2=S_Z(\omega )d\omega \end{gathered}$$

  下面会针对这两点进行证明

2.2 正交增量特性

2.3.1 正交增量过程的定义

$$\text{orthogonal Increment}$$

  第一个叫做正交增量特性。所谓正交增量特性就是，如果函数F具有正交增量特性，那么顺序取四个点ω₁,ω₂,ω₃,ω₄,任意两点之间能够构成一个增量，只要这些增量是不重叠的，这些增量彼此就是正交的。

$$\begin{gathered} F(\omega )\Rightarrow \forall {\omega }_1,{\omega }_2,{\omega }_3,{\omega }_4 \\ (F({\omega }_2)-F({\omega }_1))\perp (F({\omega }_4)-F({\omega }_3)) \end{gathered}$$

  所谓正交，就是内积为0，而对于随机过程的内积，就是相关。因此，如果随机过程的增量是不相关的，那么这就是一个正交增量过程

$$\omega \cancel{=}{\omega }^{\prime }\Rightarrow E(d{F}_Z(\omega )\overline{dF(\omega )})=0$$

  而我们的谱过程，就是一个正交增量，过程，因此，会得到我们上面的结论

2.3.2 正交增量特性的解读

  这里我们想对这个谱过程的正交性进行一些解读。

  我们把谱表示与周期函数的傅里叶展开进行对比

$$\begin{gathered} Z(t)=Z(t+T) \\ Z(t)=\sum _{-\infty }^{+\infty }{\alpha }_{k}exp(j{\omega }_{k}t) \\ {a}_k=\frac{1}{T}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}Z(t)exp(-j{\omega }_{k}t)dt \end{gathered}$$

  谱表示
$$Z(t)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j\omega t)dF(\omega )$$

  我们发现谱表示和傅里叶级数展示是非常相似的，傅里叶级数展开使用求和的方法，对正交基进行展开。而谱表示是使用积分的方式，对正交基进行展开。谱过程对应的位置，实际上就是傅里叶级数展开时候的系数α。

  我们其实可以证明，这个系数α也是具有正交性的

  随机变量的正交，就是求相关。也就是证明

$$E({\alpha }_k\overline{{\alpha }_m})=0k\cancel{=}m$$

  计算一下这个相关

$$\begin{gathered} E({\alpha }_k\overline{{\alpha }_m})=E(\frac{1}{T}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}Z(t)exp(-j{\omega }_{k}t)dt\frac{1}{T}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}\overline{Z(s)}exp(j{\omega }_{m}s)ds) \\ =\frac{1}{T^2}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}E(Z(t)\overline{Z(s)})exp(-j{\omega }_{k}t))exp(j{\omega }_{m}s))dsdt \\ =\frac{1}{T^2}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{R}_Z(t-s)exp(-j{\omega }_{k}t))exp(j{\omega }_{m}s))dsdt \end{gathered}$$

  进行积分换元

$$\begin{gathered} \text{Let }{t}^{\prime }=t-s \\ \text{Then} \\ E({\alpha }_k\overline{{\alpha }_m})=\frac{1}{T^2}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{\int }_{-\frac{T}{2}+s}^{+\frac{T}{2}+s}{R}_Z(t^{\prime })exp(-j{\omega }_k{t}^{\prime }))exp(j({\omega }_m-{\omega }_k)s))dsd{t}^{\prime } \\ =\frac{1}{T^2}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{\int }_{-\frac{T}{2}+s}^{+\frac{T}{2}+s}{R}_Z(t^{\prime })exp(-j{\omega }_k{t}^{\prime })d{t}^{\prime }exp(j({\omega }_m-{\omega }_k)s))ds(i) \end{gathered}$$

  下面，我们来说明一下相关函数具有周期性

  由于做傅里叶级数展开的函数是周期函数,则有

$$E|Z(t)-Z(t-T){|}^2=0\Rightarrow R_Z(t+T)=R_Z(t)$$

  因exp(-jω_kt)也是一个周期函数，因此有

$$R_Z(t^{\prime })exp(-j{\omega }_k{t}^{\prime })\Rightarrow \text{Periodic}$$

  因此由于周期函数的积分与起点无关，因此(i)式可以表示为

$$\begin{gathered} E({\alpha }_k\overline{{\alpha }_m})=\frac{1}{T^2}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{R}_Z(t^{\prime })exp(-j{\omega }_k{t}^{\prime })d{t}^{\prime }exp(j({\omega }_m-{\omega }_k)s))ds \\ =\frac{1}{T^2}{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}{R}_Z(t^{\prime })exp(-j{\omega }_k{t}^{\prime })d{t}^{\prime }{\int }_{-\frac{T}{2}}^{+\frac{T}{2}}exp(j({\omega }_m-{\omega }_k)s))ds \end{gathered}$$

  同时

$$\begin{gathered} {\int }_{-\frac{T}{2}}^{+\frac{T}{2}}exp(j({\omega }_m-{\omega }_k)s))ds \\ ={\int }_{-\frac{T}{2}}^{+\frac{T}{2}}exp(-j\frac{2(k-m)\pi }{T}s)ds=0 \\ s.t.k\cancel{=}m \end{gathered}$$

  因此，我们就证明了，傅里叶级数的系数是具有正交性的。

  因此，我们也从侧面说明了，谱过程确实是具有正交增量特性的

$${\alpha }_k\perp {\alpha }_m\Rightarrow d{F}_Z(m_1)\perp d{F}_Z(m_2)$$

  也就说明了，谱过程在不同频点处是正交的

2.3 谱表示与功率谱

  我们使用谱表示表示相关函数

$$\begin{gathered} R_Z(t,s)=E(Z(t)\overline{Z(s)}) \\ =E(\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j\omega t)d{F}_Z(\omega )\overline{\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j{\omega }^{\prime }s)d{F}_Z({\omega }^{\prime })}) \\ =\frac{1}{4{\pi }^2}{\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }exp(j\omega t)exp(-j{\omega }^{\prime }s)E(d{F}_Z(\omega )\overline{d{F}_Z({\omega }^{\prime })}) \end{gathered}$$

  由于谱过程的正交性，只有ω相等的时候才有值，因此，二重积分可以简化为一重积分

$$R_Z(t,s)=\frac{1}{4{\pi }^2}{\int }_{-\infty }^{+\infty }exp(j\omega (t-s))E|d{F}_Z(\omega ){|}^2$$

  用功率谱的形式进行表示

$$R_Z(t,s)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_Z(\omega )exp(j\omega (t-s))d\omega$$

  通过上下两个式子相等，我们可以得到

$$E|d{F}_Z(\omega ){|}^2=S_Z(\omega )d\omega$$

3. 谱表示与线性系统响应

  有了谱表示之后，我们计算随机信号通过线性系统就有了新的工具

$$\begin{gathered} Y(t)={\int }_{-\infty }^{+\infty }h(t-u)Z(u)du \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }h(t-u){\int }_{-\infty }^{+\infty }exp(j\omega u)d{F}_Z(\omega )du \end{gathered}$$

  换元

$$\begin{gathered} \text{Let }t-u=u^{\prime } \\ \text{Then}Y(t)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }h(u^{\prime }){\int }_{-\infty }^{+\infty }exp(-j\omega u^{\prime })exp(j\omega t)d{F}_Z(\omega )d{u}^{\prime } \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j\omega t){\int }_{-\infty }^{+\infty }h(u^{\prime })exp(-j\omega u^{\prime })d{u}^{\prime }d{F}_Z(\omega ) \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }H(\omega )exp(j\omega t)d{F}_Z(\omega ) \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j\omega t)d{F}_Y(\omega ) \end{gathered}$$

  其中

$$d{F}_Y(\omega )=H(\omega )d{F}_Z(\omega )$$

  引入功率谱和谱表示的关系

$$\begin{gathered} S_Y(\omega )d\omega =E|d{F}_Y(\omega ){|}^2=E|H(\omega )d{F}_Z(\omega ){|}^2 \\ =|H(\omega ){|}^{2}E|d{F}_Z(\omega ){|}^2=|H(\omega ){|}^2{S}_Z(\omega ) \end{gathered}$$

4. 谱表示与宽平稳随机过程

4.1 宽平稳随机过程与复指函数的等距同构

  我们再来观测一下，宽平稳随机过程的谱表示

$$Z(t)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }exp(j\omega t)d{F}_Z(\omega )$$

  我们发现随机过程和复指函数之间具有某种对应关系。

  随机过程是时间的函数，并且如果时间确定了以后是一个随机变量，仍然是一个样本空间的函数，因此随机过程是一个二元函数

  复指函数是时间的函数，并且时间确定了以后是一个频率的函数，因此复指函数也是一个二元函数。

$$Z(\omega ,t)\leftrightarrow exp(j\omega t)$$

  下面，我们希望通过构建某种关系，找到复指函数和随机过程之间的联系。

  在这里我们定义两个距离

$$||Z(t)-Z(s)|{|}_1=||exp(j\omega t)-exp(j\omega s)|{|}_2$$

  随机过程的距离和复指函数的距离分别定义在不同的空间中，但是他们实际是相等的。这种关系叫做等距同构。

  我们具体的写出这两个距离，并且进行证明。

$$E||Z(t)-Z(s)|{|}^2\leftrightarrow \frac{1}{2\pi }{\int }_{-\infty }^{+\infty }||exp(j\omega t)-exp(j\omega s)|{|}^2{S}_Z(\omega )d\omega$$

  左边

$$\begin{gathered} E||Z(t)-Z(s)|{|}^2=E|Z(t){|}^2+E|Z(s){|}^2-2E(Z(t)Z(s)) \\ =2R_Z(0)-2R_Z(t-s)=2(R_Z(0)-R_Z(t-s)) \end{gathered}$$

  右边

$$\begin{gathered} \frac{1}{2\pi }{\int }_{-\infty }^{+\infty }||exp(j\omega t)-exp(j\omega s)|{|}^2{S}_Z(\omega )d\omega \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }(exp(j\omega t)\overline{exp(j\omega t)}+exp(j\omega s)\overline{exp(j\omega s)}-2exp(j\omega t)\overline{exp(j\omega s)})S_Z(\omega )d\omega =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }(2-2exp(j\omega (t-s)))S_Z(\omega )d\omega \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }2S_Z(\omega )d\omega -\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }2exp(j\omega (t-s))S_Z(\omega )d\omega \\ =2R_Z(0)-2R_Z(t-s)=2(R_Z(0)-R_Z(t-s)) \end{gathered}$$

  证明复指函数和随机过程确实具有等距同构关系。

  事实上，宽平稳随机过程的本质特性，已经被复指函数说明了。我们前面介绍过宽平稳随机过程的典例就是调幅调相信号和随机电报信号。调幅调相信号是个震荡的正弦函数，随机电报信号是个震荡的方波信号。现在，我们要给这种震荡找一种解释。因为宽平稳随机过程与复指函数具有距离同构关系，而复指函数最大的特性就是震荡，因此，震荡特性是wss的一个普遍特性

4.2 等距同构的应用–采样定理

  这种等距同构有一个直接的应用，就是香农采样定理。

$$\text{Shannon Sampling Theorem}$$

  一般来说，如果一个连续数据，能够使用离散数据表示，那么必然是经过采样过程，变成了很多的采样点

Z ( t ) ↔ { Z k } k = − ∞ + ∞ Z(t) \leftrightarrow \{Z_k \}_{k=-\infty}^{+\infty} Z(t)↔{Zk​}k=−∞+∞​

  而采样的本质，实际上，就是利用采样得到的点做系数，用一组合适的基做展开

Z ( t ) ↔ { Z k } k = − ∞ + ∞ ⇔ Z ( t ) = ∑ k Z k ϕ k ( t ) Z(t) \leftrightarrow \{Z_k \}_{k=-\infty}^{+\infty} \Leftrightarrow Z(t) = \sum_k Z_k \phi_k(t) Z(t)↔{Zk​}k=−∞+∞​⇔Z(t)=k∑​Zk​ϕk​(t)

$$Z_k=Z(k\Delta t)\Rightarrow Z(t)=\sum _{k=-\infty }^{+\infty }Z(k\Delta t){\varphi }_k(t)$$

  通过选取的基不同，就能够实现信号的均匀采样和非均匀采样。

  如果采样信号能够完美恢复原始信号，对采样率是有要求的，采样率必须大于单边带宽的两倍。

  因此，如果是完美预测，也就是希望采样构建的信号与原信号之间的误差是0

$$||Z(t)-\sum _{k=-\infty }^{+\infty }Z(k\Delta t){\varphi }_k(t)|{|}_1^2=0$$

  利用距离的同构关系，我们可以把随机过程的距离转换为复指函数的距离

$$||Z(t)-\sum _{k=-\infty }^{+\infty }Z(k\Delta t){\varphi }_k(t)|{|}_1^2=||exp(j\omega t)-\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t)|{|}_2^2$$

  计算复指函数的距离

$$\begin{gathered} ||exp(j\omega t)-\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t)|{|}_2^2 \\ =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }|exp(j\omega t)-\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t){|}^2{S}_Z(\omega )d\omega \end{gathered}$$

  我们希望通过复指函数，确定φ的合适的表达式

  首先，我们的这个距离并没有体现对采样率限制的问题。这个积分一定是带限的。

  我们给功率谱做一个带限

$$\begin{gathered} \text{ Bond Limited} \\ {S}_Z(\omega )=0|\omega |\ge B \end{gathered}$$
  则，无穷区间的积分可以转化为有限区间的积分

$$\begin{gathered} ||exp(j\omega t)-\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t)|{|}_2^2 \\ =\frac{1}{2\pi }{\int }_{-B}^{+B}|exp(j\omega t)-\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t){|}^2{S}_Z(\omega )d\omega \end{gathered}$$

  实际上，我们要找的式子就是

$$\begin{gathered} exp(j\omega t)-\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t)=0 \\ \omega \in (-B,B) \end{gathered}$$

  即

$$exp(j\omega t)=\sum _{k=-\infty }^{+\infty }exp(j\omega k\Delta t){\varphi }_k(t)$$

  我们发现，这是一个以φ_k(t)为系数的傅里叶级数展开。

$$\begin{gathered} {\varphi }_k(t)=\frac{1}{2B}{\int }_{-B}^{B}exp(j\omega t)exp(-j\omega k\Delta t)d\omega \\ =\frac{1}{2B}{\int }_{-B}^{B}exp(j\omega (t-k\Delta t))d\omega \\ =\frac{1}{2B}{\int }_{-B}^{B}cos((t-k\Delta t)\omega )d\omega \\ =\frac{sin((t-k\Delta t)B)}{B(t-k\Delta t)} \end{gathered}$$

  得到一个Sa函数的解

$$Sa(x)=\frac{sin(x)}{x}$$

  然后我们就得到了傅里叶展开的系数，也就得到了采样定理展开的基函数

$$Z(t)=\sum _k{Z}_k\frac{sin((t-k\Delta t)B)}{B(t-k\Delta t)}$$

  这与均匀采样得到的结论是完全一致的