第三章 随机过程

---

一、随机过程基本概念

1.基本概念

随机过程：随机过程包含两个概念，随机指随机变量，过程表示随时间变化。看做随机变量的延伸，在给定$t_1$时刻每一个样本函数$x_i(t)$是一个确定的数值$x_i(t_1)$。样本$x(t_1)$是一个随机变量，有不同的样本值 { x 1 ( t 1 ) , … , x n ( t 1 ) } \{x_1(t_1),\dots,x_n(t_1)\} {x1​(t1​),…,xn​(t1​)}。在任意时刻$x(t)$都是一个随机变量。时间进程中处于不同时刻的随机变量的集合 { x 1 ( t ) , … , x n ( t ) } \{x_1(t),\dots,x_n(t)\} {x1​(t),…,xn​(t)}。

两个维度：不同时间$t$，不同实现（样本，试验）$x_n(t)$。

2.分布函数

$\xi (t)$表示一个随机过程。任意时刻$t_1$的值$\xi (t_1)$是一个随机变量。
随机过程主要强调过程，过程即时间，每一个时刻都是随机变量。
一维分布函数：
$$F_1(x_1,t_1)=P[\xi (t_1)\le x_1]$$
一维概率密度：
$$f_1(x_1,t_1)=\frac{\partial F_1(x_1,t_1)}{\partial x_1}$$
多维分布函数：
$$F_n(x_1,\dots ,x_n;t_1,\dots ,t_n)=P[\xi (t_1)\le x_1,\dots ,\xi (t_n)\le x_n]$$
多维概率密度：
$$f_n(x_1,\dots ,x_n;t_1,\dots ,t_n)=\frac{\partial F_1(x_1,\dots ,x_n;t_1,\dots ,t_n)}{\partial x_1,\dots ,x_n}$$

3.数字特征

均值：关于时间的函数
$$a(t):=E[\xi (t)]={\int }_{-\infty }^{+\infty }x{f}_1(x,t)dt$$
方差：
D [ ξ ( t ) ] = E { [ ξ ( t ) − a ( t ) ] 2 } D[\xi(t)]=E\{[\xi(t)-a(t)]^2\} D[ξ(t)]=E{[ξ(t)−a(t)]2}
均值和方差只与随机过程的一维概率密度函数有关，只能描述随机过程各个孤立时刻的特征，不能反映随机过程的内在联系。为了衡量两个时刻随机变量的关联程度，采用相关函数或者协方差函数。
协方差函数：
B ( t 1 , t 2 ) = E { [ ξ ( t 1 ) − a ( t 1 ) ] [ ξ ( t 2 ) − a ( t 2 ) ] } B(t_1,t_2)=E\{[\xi(t_1)-a(t_1)][\xi(t_2)-a(t_2)]\} B(t1​,t2​)=E{[ξ(t1​)−a(t1​)][ξ(t2​)−a(t2​)]}
相关函数：
$$\begin{gathered} R(t_1,t_2)=E[\xi (t_1)\xi (t_2)] \\ B(t_1,t_2)=R(t_1,t_2)-a_1(t)a_2(t) \end{gathered}$$

二、平稳随机过程

1.定义

$\xi (t)$的统计特性与时间起点无关，时间平移不影响其任何统计特性，简称严平稳随机过程。
数学表达：
$$f_n(x_1,\dots ,x_n;t_1,\dots ,t_n)=f_n(x_1,\dots ,x_n;t_1+△,\dots ,t_n+△)$$
一维概率密度与时间$t$无关。
$$f_1(x_1,t_1)=f_1(x_1)$$
二维概率密度只与时间差$\tau$有关。多维的依次类推，相当于减少一个自由度。
根据概率密度推导出期望与时间无关，自相关函数只有时间差$\tau$有关。我们把满足该条件的过程定义为广义平稳随机过程。反之不成立。

2.各态历经性

随机过程是一个时间无限，实验次数无限的集合。实验次数无限难以实现，一次实验就能得到平稳过程的数字特征的特性叫做各态历经性。
假设$x(t)$是一次实现。则
$$\begin{gathered} a=\overline{a}=\overline{x(t)}=\underset{T\to +\infty }{\lim }\frac{1}{T}{\int }_{-T/2}^{+T/2}x(t)dt \\ R(\tau )=\overline{R(\tau )}=\overline{x(t)x(t+\tau )}=\underset{T\to +\infty }{\lim }\frac{1}{T}{\int }_{-T/2}^{+T/2}x(t)x(t+\tau )dt \end{gathered}$$
各态历经性意味着随机过程的任意一次实现都经历了所有可能状态。
注意：各态历经性==》平稳过程 反之则否。

3.自相关函数与功率谱密度

维纳-辛钦定理：平稳过程的功率谱密度$P_{\xi }(f)$与其相关函数$R(\tau )$是傅里叶变换对。$R(\tau )\iff P_{\xi }(f)$。

三、高斯随机过程

1.定义

n维概率密度服从正态分布。

2.性质

高斯过程是广义平稳的，均值与时间无关，协方差只与时间差有关。

3.高斯随机变量

$f(x)=\frac{1}{\sqrt{2\pi \sigma }}\exp (-\frac{(x-a{)}^2}{2{\sigma }^2})$
标准化之后：
$f(x)=\frac{1}{\sqrt{2\pi }}\exp (-\frac{x^2}{2})$
积分为1==》${\int }_{-\infty }^{+\infty }\exp (-\frac{x^2}{2})dx=\sqrt{2\pi }$
误差函数：$erf(x)=\frac{2}{\sqrt{\pi }}{\int }_0^x{e}^{-t^2}dt$ 递增，$erf(0)=0$,$erf(\infty )=1$,奇函数。
互补误差函数：$erfc(x)=1-erf(x)=\frac{2}{\sqrt{\pi }}{\int }_x^{\infty }{e}^{-t^2}dt$

四、平稳随机过程通过线性系统

线性时不变系统可由其单位冲激响应$h(t)$或者$H(f)$表示。
设${\xi }_i(t)$为输入过程，均值为$a$，自相关函数为$R_i(\tau )$,功率谱密度为$P_i(w)$。

1.输出过程${\xi }_0(t)$的均值

$$\begin{gathered} E({\xi }_0(t))=E[{\int }_{-\infty }^{+\infty }h(\tau ){\xi }_i(t-\tau )d\tau ]={\int }_{-\infty }^{+\infty }h(\tau )E({\xi }_i(t-\tau ))d\tau \\ ={\int }_{-\infty }^{+\infty }h(\tau )E({\xi }_i(t))d\tau =a{\int }_{-\infty }^{+\infty }h(\tau )\tau =aH(0) \end{gathered}$$

2.输出过程${\xi }_0(t)$的自相关函数

$$\begin{gathered} R_0(t_1,t_1+\tau )=E[{\xi }_0(t_1){\xi }_0(t_1+\tau )] \\ =E[{\int }_{-\infty }^{+\infty }h(\alpha ){\xi }_i(t_1-\alpha )d\alpha {\int }_{-\infty }^{+\infty }h(\beta ){\xi }_i(t_1-\beta )d\beta ] \\ ={\int }_{-\infty }^{+\infty }h(\alpha )h(\beta )E[{\xi }_i(t_1-\alpha ){\xi }_i(t_1+\tau -\beta )]d\alpha d\beta \\ ={\int }_{-\infty }^{+\infty }h(\alpha )h(\beta )R_i(\tau +\alpha -\beta )d\alpha d\beta \\ =R_0(\tau ) \end{gathered}$$

3.输出过程${\xi }_0(t)$的功率谱密度

$$P_0(f)={\int }_{-\infty }^{+\infty }{R}_0(\tau )e^{-jw\tau }d\tau =|H(f){|}^2{P}_i(f)$$

4.输出过程${\xi }_0(t)$的概率密度

高斯过程经过线性变换依旧是高斯过程。

五、窄带随机过程

1.定义

随机过程$\xi (t)$的谱密度集中在中心频谱$f_c$附近相对较窄的频带范围$△f$. $△f<<f_c$。
波形：
$$\begin{gathered} \xi (t)=a_{\xi }(t)cos[w_{c}t+{\phi }_{\xi }(t)] \\ ={\xi }_c(t)cos{w}_{c}t-{\xi }_s(t)sin{w}_{c}t \\ {a}_{\xi }(t)\ge 0 \end{gathered}$$
其中${\xi }_c(t)=a_{\xi }(t)cos({\phi }_{\xi }(t))$,${\xi }_s(t)=a_{\xi }(t)sin({\phi }_{\xi }(t))$,$a_{\xi }$为随机包络，${\phi }_{\xi }(t)$为随机相位，$w_c$为中心角频率.
其统计特性和略

六、正弦波加窄带高斯噪声

1.定义

$$\begin{gathered} r(t)=Acos(w_{c}t+\theta )+n(t) \\ n(t)=n_c(t)cos(w_{c}t)-n_s(t)sin(w_{c}t) \end{gathered}$$
噪声均值为0，方差为${\sigma }_n^2$,$\theta$为随机相位在（0,2$\pi$）均匀分布，A,$w_c$假定已知

七、 高斯白噪声与带限白噪声

1.白噪声：

白噪声的双边谱密度或者单边谱密度：
$$\begin{gathered} P_n(f)=\frac{n_0}{2}(-\infty \le f\le +\infty ) \\ {P}_n(f)=n_0(0\le f\le +\infty ) \end{gathered}$$

2. 低通白噪声：

只让频率低的通过$|f|\le f_H$
$$\begin{gathered} P_n(f)=\frac{n_0}{2}if|f|\le f_{H}else0 \\ R(\tau )=n_0{f}_H\frac{sin2\pi f_H\tau }{2\pi f_H\tau } \end{gathered}$$

3.带通白噪声：

$$\begin{gathered} H(f)=1 \\ {P}_n(f)=\frac{n_0}{2}{f}_c-\frac{B}{2}\le |f|\le f_c+\frac{B}{2} \\ R(\tau )=n_{0}B\frac{sin\pi B\tau }{\pi B\tau }cos2\pi f_c\tau \end{gathered}$$
B为通带宽度。