随机信号分析与处理2

随机过程：

​
​

随机过程和随机变量的关系
n个时刻$t_1,t_2,...,t_n$上对随机过程X(t)诸样本进行均匀采样$\downarrow$
在任意时刻$t_k$，采样结果为$x_1(t_k),x_2(t_k),...,x_n(t_k)$这样，由各样本函数在$t=t_k$时刻的诸采样值便构成一个随机变量
$X_k=X(t_k)$
$\downarrow$
在$t=t_1,t_2,...,t_n$各时刻的诸采样值便构成n个随机变量$X_1=X(t_1)$,$X_2=X(t_2)$,…,$X_n=X(t_n)$
一个随机过程是一个随机试验所产生的随机变量依时序组合得到的序列。

两个随机变量之间的联合分布函数为
$F_2(x_1,x_2;t_1,t_2)$

注意：把$t_1$改为t，上式则表示随机过程Y（t）的分布。解这个题的关键是要注意在$t$=$t_1$时刻，Y($t_1$)是一个随机变量，最终归结为随机变量的变换问题。

‍# 随机过程的数字特征

• 均值$m_x(t)$仅仅描述了随机过程诸样本函数在其上下起伏的趋势。

• 方差说明诸样本函数或随机过程偏离均值的程度。(噪声功率)

• 自相关函数和自协方差函数描述了随机过程在两个不同时刻的值与值之间的依赖程度。
  随机过程X(t)的两个不同时刻取样值之间统计独立、不相关和正交

  1. 如果$p_2(x_1,x_2;t_1,t_2)=p(x_1;t_1)p(x_2;t_2)$，则称随机过程$X(t)$在$t_1$and$t_2$时刻统计独立
  2. 如果$R_x\left(t_1,t_2\right)=0$,则称随机过程X(t)在$t_1$和$t_2$时刻相互正交。
  3. 如果$C_x\left(t_1,t_2\right)=0$,则称随机过程X(t)在$t_1$和$t_2$时刻互不相关。

平稳随机过程

所谓平稳随机过程
是指它的n维概率分布函数或n维概率密度函数与时间t
的起始位置无关。
即平稳随机过程的统计特性不随时间的平移而发生变化。

狭义平稳随机过程在任何时刻其概率统计特性都是一样的。

• 狭义平稳随机过程的一维概率分布函数与时间t无关，
• 狭义平稳随机过程的二维概率分布函数和二维概率密度函数仅与两时间间隔$\tau$的大小有关

广义平稳过程
条件：$E[x(t)]=m_X=c，R_X(t_1,t_2)=R_X(\tau )$
只有当X(n)是高斯随机过程时，宽平稳才是严平稳

平稳周期性随机过程的自相关函数也满足周期性。一循环平稳

彼此统计独立的平稳随机过程

• 它们乘积的自相关函数等于各随机过程自相关函数的乘积。
• 它们乘积的均值等于各随机过程均值的乘积。
• 它们乘积的随机过程也是广义平稳随机过程。

各态历经过程

随机信号的统计特性—需要很多样本函数的集平均
平稳随机过程的一个最大特点便是它的统计特性与时间位置无关。
假如存在一个持续时间足够长的平稳随机过程的样本函数x(t),在其时间历程中经历了随机过程X(t)的各种可能状态—“各态历经性”（即遍历性）

时间平均：

1. 时间均值：$<X(t)>=\underset{T\to \infty }{\lim }\frac{1}{T}{\int }_0^{T}x(t)dt$
2. 时间自相关函数：$<R_X(\tau )>=\underset{T\to \infty }{\lim }\frac{1}{T}{\int }_0^{T}x(t)x(t+\tau )dt$
3. 时间方差：$<{\sigma }_X^2>=\underset{T\to \infty }{\lim }\frac{1}{T}{\int }_0^T{[x(t)-<x(t)>]}^{2}dt$

各态历经性：

• 狭义遍历过程要求随机过程的所有时间平均在概率意义上趋于相应的集平均。

• 广义各态历经性
  条件：

  1. 广义平稳随机过程
  2. $E[X(t)]=<x(t)>$以概率1成立，则该平稳随机过程的均值具有各态历经性
  3. $R_X(\tau )=E[X(t)X(t+\tau )]=\underset{T\to \infty }{\lim }\frac{1}{2T}{\int }_{-T}^{T}x(t)x(t+\tau )dt=<R_X(\tau )>$以概率1成立，则该平稳随机过程的自相关函数具有各态历经性。

  如果平稳随机过程的均值与自相关函数均具有各态历经性，则称随机过程具有各态历经性(Ergodjcjty),简称遍历性。

平稳过程的相关函数

自相关函数：

$R_X(\tau )=E[X(t)X(t+\tau )]={\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }x(t)x(t+\tau )p_2(x_1,x_2;\tau )d{x}_{1}d{x}_2$
性质：

1. $R_X(0)=E[X^2(t)]>0$–均方值
   平稳过程的均方值可由自相关函数在$\tau$=0时确定，且为非负。其物理意义表示平稳过程X(t)的总平均功率。

2. $R_X(\tau )=R_X(-\tau )$同理$C_X(\tau )=C_X(-\tau )$

3. $R_X(0)>\left|R_X(\tau )\right|$同理$C_X(\tau )$
   说明自相关函数在$\tau$=0时取得最大值。

4. 对于周期平稳过程X(t)=X(t+T),其自相关函数也是周期T的函数，即$R_X(\tau )=R_X(\tau +T)$一循环平稳

5. 平稳过程的自相关函数及R${}_x$($\tau$)对于任意时刻$t_1,t_2,...,t_n$和任意函数g(t)下式成立$\sum _{i=1}^n\sum _{j=1}^n{R}_X(t_i-t_j)g(t_i)g(t_j)⩾0$

6. 对于非周期平稳过程X(t),如果X(t+$\tau$)和X(t)在$\left|\tau \right|\to \infty$时相互统计独立。则有
   $\underset{\tau \to \infty }{\lim }{R}_X(\tau )=m_X^2$同理$\underset{\tau \to \infty }{\lim }{C}_X(\tau )=0$

7. 自相关函数和自协方差函数关系：
   $R_X(\tau )=C_X(\tau )+m_X^2$
   $R_X(0)=C_X(0)+m_X^2={\sigma }_X^2+R_X(\infty )$
   均方值=方差+均值平方
   总信号平均功率=偏离均值的误差平均功率+均值对应功率
   

8. 自相关函数和功率谱是一对傅立叶变换对(维纳–辛钦定理，仅对平稳过程的相关函数才能成立）
   平稳随机过程的自相关函数的傅立叶变换是非负函数：
   $P_X(\omega )={\int }_{-\infty }^{\infty }{R}_X(\tau )e^{-j\omega \tau }d\tau ⩾0$
   $R_X(\tau )=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{P}_X(\omega )e^{j\omega \tau }d\omega$

（自）相关系数作用：描述对平稳过程两个不同时刻取值之间的内在联系
自相关系数定义一也称归一化自相关函数或标准自协方差函数
相关时间​****这一概念，当$\tau >{\tau }_0$时，则可认为X(t)和X(t+$\tau$)之间已不相关。
相关时间定义：平稳过程的相关系数降至5%的时间间隔为相关时间$\left|{\gamma }_X({\tau }_0)\right|⩽5\%$
另一种定义：有时也用下图的矩形(高为1，底为${\tau }_0$的矩形)
面积等于阴影面来定义${\tau }_0$,即

• 相关时间的大小直接反映了平稳过程的变化程度

  1. 相关时间越大，说明随机过程两个不同时刻取值之间的关联性越大，即过程变化越缓慢，该过程频率偏低频
  2. 相关时间越小，说明随机过程两个不同时刻取值之间的关联程度越小，即过程变化越剧烈，该过程频率偏高频

互相关函数

随机过程X（t）和Y(t)的互相关函数定义为

平稳过程X(t)和Y(t)之间是广义联合平稳：如果X(t)和Y(t)均满足平稳性，那么，它们之间的互相关函数是时间间隔$\tau =t_2-t_1$的一维函数时，则X(t)和Y(t)之间是广义联合平稳的。

平稳过程X(t)和Y(t)之间的时间互相关函数:

结论：

性质：

1. $R_{XY}(\tau )=R_{YX}(-\tau )$
2. $\left|R_{XY}(\tau )\right|⩽\sqrt{R_X(0)R_Y(0)}$
   $\left|C_{XY}(\tau )\right|⩽\sqrt{{\sigma }_X^2{\sigma }_Y^2}$—>$\left|{\gamma }_{XY}(\tau )\right|⩽1$
3. $2\left|R_{XY}(\tau )\right|⩽R_X(0)+R_Y(0)$

功率谱密度函数

狄里赫莱条件的绝对可积条件其实质是要求非周期信号$f(t)$必须能量有限。其总能量由以下巴塞瓦尔(Parseval)等式表示
${\int }_{-\infty }^{\infty }{\left|f(t)\right|}^{2}dt=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{\left|F(\omega )\right|}^{2}d\omega$式中${\left|F(\omega )\right|}^2$为能量谱密度
能量守恒：时域内的信号能量=频域内的信号能量

估计

理论基础：随机过程的各态历经假设

1. 均值估计
   可用N个观测值的算术平均作为均值$m_x$的估值（高斯分布时最大似然估计）
   无偏估计、有偏估计：若估计量的数学期望值等于真值。称该估计量为无偏估计，反之则称为有偏估计。
   一致估计量：就是N→0时，估计量的方差趋于零，则称该估计量为一致估计量。

2. 方差估计
   

   该估计是有偏估计量，但是渐近无偏
   该估计是一致估计
   均方误差小的估计量为好估计量

3. 自相关函数的估计
   对于零均值平稳序列（一个随机系列可以先去均值）
   自相关函数$R_X(k)$的估值$\underset{X}{\overset{\wedge }{R}}(k)$高斯分布时最大似然估计）
   

   $\underset{X}{\overset{\wedge }{R}}(k)$是有偏的，但渐近无偏的
   
   
   $\underset{X}{\overset{\wedge }{R}}(k)$是一致估计

随机信号通过线性系统

线性时不变(LTI)系统：

• 可加性
• 比例性
• 时不变性

对于某LTI系统，如果输入随机过程是严格平稳的。那么，系统响应的随机过程也是严格平稳的。

系统响应

• 均值：
  

  LTI系统，输入广义平稳随机过程，输出随机过程的均值是一常数，为输入广义平稳随机过程均值乘系统直流分量的放大倍数

• 自相关函数：
  

  LTI系统，输入广义平稳随机过程，输出随机过程的自相关函数为输入广义平稳随机过程自相关函数与系统冲激响应的双重卷积
  一个LTI系统，如果输入随机过程是广义平稳的，那么，系统响应随机过程也是广义平稳的。

• 互相关函数
  
  

• LTI系统输入输出各态历经性
  可以看出，各态历经的随机过程经过LTI系统后，输出随机过程Y(t)的时间均值及时间相关函数分别与集平均及集相关函数相同，说明了输出随机过程Y(t)也是各态历经过程。

• 频率分析
  

  ${\left|H(\omega )\right|}^2$称为系统的功率传输函数
  可知：系统的功率传输能力仅与系统的幅频特性有关，而与系统的相频特性无关。
  说明：

  1. 平稳白噪声X(t)通过LTI系统后，其输出平稳过程的功率谱形状与系统的幅频特性相似。如果系统的幅频特性是严格带限的，那么系统输出过程的功率谱也将是严格带限的，并具有相同的频谱宽度。
     应用：通常可利用这一特性在系统输入端施加高斯白噪声，而在系统输出产生功率谱形状为的${\left|H(t)\right|}^2$高斯平稳随机过程，这是很有实际意义。
  2. 第二，不论系统频率响应函数的相频特性如何，仅由上式是无法获得系统的相位信息的。从某个角度来讲，这是采用二阶统计量分析平稳随机过程的致命弱点。

白噪声通过线性系统

• 噪声带宽
  白噪声是具有均匀功率谱的平稳随机过程，当它通过线性系统后，其输出端的噪声功率就不再是均匀的了。
  
  
  

• 

  可见，白噪声通过低通滤波器后、其输出功率谱变窄，宽度等于滤波器的通带$\Delta \omega /2$
  表明，输出随机过程的相关时间与系统的带宽（也就是输出随机过程的谱宽）成反比。
  这就是说：系统带宽（过程的谱宽）越宽、相关时间${\tau }_0$越小、输出过程随时间变化（起伏）越剧烈，反之，系统带宽（过程谱宽）越窄，则${\tau }_0$越大，输出过程随时间变化就缓慢。

概率分布
若系统输入虽然不是高斯过程，然而输入过程的带宽远大于线性系统的通频带，此时，可以证明系统的输出是趋于高斯分布的随机过程。
如果线性系统输入的随机过程是非高斯的，但是它的功率谱宽度远大于系统的带宽时，可以证明：系统输出可以得到接近于高斯分布的随机过程，于是同样可以通过求得输出均值及相关函数集合，写出输出过程的n维概率密度。