【通信原理】三、随机过程

随机过程的基本概念

随机过程是所有样本函数的集合，从另外的角度看随机过程是随机变量的延伸，是在任意时刻的值是一个随机变量。也可称随机过程看成时间进程中处于不同时刻的随机变量的集合。

随机过程的分布函数

设$\xi (t)$为一个随机过程，它在任意时刻$t_1$的值$\xi (t_1)$是一个随机变量，我们将$\xi (t_1)$小于或等于某一数值$x_1$的概论记作：
F 1 ( x 1 , t 1 ) = P { ξ ( t 1 ) ≤ x 1 } F_1(x_1,t_1)=P\lbrace \xi(t_1)\leq x_1\rbrace F1​(x1​,t1​)=P{ξ(t1​)≤x1​}
则将：
$$f_1(x_1,t_1)=\frac{\partial F_1(x_1,t_1)}{\partial x_1}$$

称为一维概率密度函数，同样的我们可以将上列推广到n维：
F n ( x 1 , x 2 , ⋯   , x n ; t 1 , t 2 ⋯   , t n ) = P { ξ ( t 1 ) ≤ x 1 ξ ( t 2 ) ≤ x 2 ⋯   , ξ ( t n ) ≤ x n } f n ( x 1 , x 2 , ⋯   , x n ; t 1 , t 2 ⋯   , t n ) = ∂ n F n ( x 1 , x 2 , ⋯   , x n ; t 1 , t 2 ⋯   , t n ) ∂ x 1 ∂ x 2 ⋯ ∂ x n F_n(x_1,x_2,\cdots,x_n;t_1,t_2\cdots,t_n)= P\lbrace \xi(t_1)\leq x_1 \xi(t_2)\leq x_2 \cdots, \xi(t_n)\leq x_n \rbrace \\ \\ f_n(x_1,x_2,\cdots,x_n;t_1,t_2\cdots,t_n)= \dfrac {\partial^n F_n(x_1,x_2,\cdots,x_n;t_1,t_2\cdots,t_n)} {\partial x_1 \partial x_2 \cdots \partial x_n} Fn​(x1​,x2​,⋯,xn​;t1​,t2​⋯,tn​)=P{ξ(t1​)≤x1​ξ(t2​)≤x2​⋯,ξ(tn​)≤xn​}fn​(x1​,x2​,⋯,xn​;t1​,t2​⋯,tn​)=∂x1​∂x2​⋯∂xn​∂nFn​(x1​,x2​,⋯,xn​;t1​,t2​⋯,tn​)​

n越大，则对随机过程的描述越充分

随机过程的数字特征

• 均值
  随机过程的均值（数学期望）定义为：
  $$a(t)=E[\xi (t)]={\int }_{-\infty }^{\infty }x{f}_1(x,t)dt$$
  表示随机过程n个样本函数曲线的摆动中心

• 方差
  σ 2 ( t ) = D [ ξ ( t ) ] = E { [ ξ ( t ) − a ( t ) ] 2 } \sigma^2(t)= D[ \xi(t) ]=E\lbrace [ \xi(t)-a(t) ]^2\rbrace σ2(t)=D[ξ(t)]=E{[ξ(t)−a(t)]2}

• 协方差
  B ( t 1 , t 2 ) = E { [ ξ ( t 1 ) − a ( t 1 ) ] [ ξ ( t 2 ) − a ( t 2 ) ] } = R ( t 1 , t 2 ) − a ( t 1 ) a ( t 2 ) \begin{aligned} B(t_1,t_2)&=E \lbrace [ \xi(t_1)-a(t_1) ] [ \xi(t_2)-a(t_2) ] \rbrace \\ &=R(t_1,t_2) -a(t_1)a(t_2) \end{aligned} B(t1​,t2​)​=E{[ξ(t1​)−a(t1​)][ξ(t2​)−a(t2​)]}=R(t1​,t2​)−a(t1​)a(t2​)​

• 相关函数
  $$R(t_1,t_2)=E[\xi (t_1)\xi (t_2)]$$

---

平稳随机过程

平稳随机过程的定义

如果一个随机过程的统计特性与时间起点无关，称为严平稳（狭义平稳）
但我们研究的一般为宽平稳（广义平稳），它的一维概率密度函数与t无关，二维概率密度只和时间间隔有关，即：
$$\{\begin{array}{ll}E[\xi (t)]& =a\\ R(t_1,t_2)& =R(\tau )\end{array}$$

各态历经性

随机过程任意一次都经历了随机过程的所有可能状态，满足各态历经一定是平稳过程，其时间均值和时间相关函数分别定义为：
$$\{\begin{array}{rl}\overline{a}& =\underset{T\to \infty }{\lim }\frac{1}{T}{\int }_{-T/2}^{T/2}X(T)dt\\ & \\ \overline{R(\tau )}& =\underset{T\to \infty }{\lim }{\int }_{-T/2}^{T/2}x(t)x(t+\tau )dt\end{array}$$
如果平稳过程满足下列条件，则各态历经：
$$\{\begin{array}{rl}a& =\overline{a}\\ R(\tau )& =\overline{R(\tau )}\end{array}$$

平稳过程的自相关函数

我们知道稳态随机过程的自相关函数为:
$$R(\tau )=E[\xi (t)\xi (t+\tau )]$$
具有以下性质：

1. $R(0)=E[{\xi }^2(t)]$，表示平均功率
2. $R(-\tau )=|R(\tau )|$，偶函数
3. $R(0)\ge |R(\tau )|$，时间差值为0时最相关
4. $R(\infty )=E^2[\xi (t)]=a^2$，直流功率，完全不相关，分别统计
5. $R(0)-R（\infty ）={\sigma }^2$,方差

平稳过程的功率谱密度

对于确定功率信号，功率谱密度定义为：
$$P_X(f)=\underset{T\to \infty }{\lim }\frac{|X_T(f){|}^2}{T}$$
对于随机信号而言，每一个样本对应一个功率谱密度，所以应该取所有样本得统计平均，即：
$$P_{\xi }(f)=\underset{T\to \infty }{\lim }\frac{E|X_T(f){|}^2}{T}$$
与确知信号相同，平稳随机信号自相关函数和功率谱密度也互为一对傅里叶变换关系，也称为维纳——辛钦定理：
$$\{\begin{array}{rl}{P}_{\xi }(\omega )& ={\int }_{-\infty }^{\infty }R(\tau )e^{-j\omega \tau }d\tau \\ & \\ R(\tau )& ={\int }_{-\infty }^{\infty }\frac{1}{2\pi }{P}_{\xi }(\omega )e^{j\omega \tau }d\omega \end{array}$$
或：
$$\{\begin{array}{rl}{P}_{\xi }(f)& ={\int }_{-\infty }^{\infty }R(\tau )e^{-j\omega \tau }d\tau \\ & \\ R(\tau )& ={\int }_{-\infty }^{\infty }{P}_{\xi }(f)e^{j\omega \tau }d\omega \end{array}$$

由上面得定理我们可以得到以下结论：

1. 平稳过程的平均功率：
   $$R(0)={\int }_{-\infty }^{\infty }{P}_{\xi }(f)df$$
2. 各态历经过程任一样本函数得功率谱密度等于过程功率谱密度
3. 功率谱密度函数具有非负性和实偶性

---

高斯随机过程

定义

n维随机过程均服从正态分布，则称为高斯过程，其n维正态分布表示如下：
$$\begin{gathered} f_n(x_1,x_2,\cdots ,x_n;t_1,t_2,\cdots ,t_n)= \\ \frac{1}{(2\pi {)}^{n/2}\prod {\sigma }_n|B{|}^{1/2}}exp\left[-\frac{1}{2|B|}\sum _{j=1}^n\sum _{k=1}^n|B{|}_{jk}\frac{(x_j-a_j)(x_k-a_k)}{{\sigma }_j{\sigma }_k}\right] \end{gathered}$$
其中：
$$\begin{gathered} a_k=E[\xi (t_k)] \\ {\sigma }^2=E[\xi (t_k)-a_k{]}^2 \\ |B|=\left|\begin{array}{cccc}1& b_{12}& \cdots & b_{1n}\\ b_{21}& 1& \cdots & b_{2n}\\ ⋮& ⋮& \cdots & ⋮\\ b_{n1}& b_{n2}& \cdots & 1\end{array}\right| \end{gathered}$$
$|B{|}_{jk}$为代数余因子，$b_{jk}$为归一化协方差函数：
$$b_{jk}=\frac{E[\xi (t_j)-a_j]E[\xi (t_k)-a_k]}{{\sigma }_j{\sigma }_k}$$

重要性质

1. 对于一般随机过程而言，独立必无关，但反之未必成立；高斯随机两者是等价的。
2. 广义平稳的高斯过程也是严平稳的
3. $b_{jk}=0$则可化简为：
   $$\begin{gathered} f_n(x_1,x_2,\cdots ,x_n;t_1,t_2,\cdots ,t_n)=\prod _{k=1}^n\frac{1}{\sqrt{2\pi }{\sigma }_k}exp\left[-\frac{(x_k-a_k{)}^2}{2{\sigma }_k^2}\right] \\ =f(x_1,t_1)f(x_1,t_1)\cdots f(x_n,t_n) \end{gathered}$$
4. 高斯过程线性变换后仍然是高斯过程

高斯随机变量

高斯过程的一维概率密度函数为：
$$f(x)=\frac{1}{\sqrt{2\pi }{\sigma }_k}exp\left(-\frac{(x_k-a_k{)}^2}{2{\sigma }_k^2}\right)$$

1. 关于x=a对称
2. ${\int }_{-\infty }^{\infty }f(x)dx=1$

定义误差函数:
$$erf(x)=\frac{2}{\sqrt{\pi }}{\int }_0^x{e}^{-t^2}dt$$

可得误差函数

1. 递增奇函数
2. $erf(0)=0erf(\infty )=1$
   其互补误差函数表示为：
   $$erfc(x)=1-erf(x)=\frac{2}{\sqrt{\pi }}{\int }_x^{\infty }{e}^{-t^2}dt$$
   当x>2时，互补误差函数可近似为:
   $$erfc(x)\approx \frac{1}{x\sqrt{\pi }}{e}^{-x^2}$$
   定义高斯曲线尾部下的面积函数:
   $$Q(x)=\frac{1}{\sqrt{2\pi }}{\int }_x^{\infty }{e}^{-t^2/2}dt$$

---

平稳随机过程通过线性系统

为研究输入过程是平稳的，输出过程是否也是平稳的。输入与输出的关系可以表示为卷积，即：
$$v_o(t)=v_i(t)\ast h(t)={\int }_{-\infty }^{\infty }{v}_i(\tau )h(t-\tau )d\tau$$
或:
$$v_o(t)=h(t)\ast v_i(t)={\int }_{-\infty }^{\infty }{v}_i(t-\tau )h(\tau )d\tau$$
对于随机过程也满足：
$${\xi }_o(t)={\int }_{-\infty }^{\infty }{\xi }_i(t-\tau )h(\tau )d\tau$$

1. 输出过程的均值:
   $$E[{\xi }_o(t)]=a\cdot {\int }_{-\infty }^{\infty }h(\tau )dx=aH(0)$$
2. 输出过程的自相关函数仅仅和时间差有关；即线性系统输入是平稳的，输出也是平稳的
3. 输出过程功率谱密度:
   $$P_o(f)=|H(f){|}^2{P}_i(f)$$
   即高斯过程经过线性变换后仍然是高斯过程

---

窄带随机过程

如果随机过程的频谱密度在中心频率$f_C$附近相对窄的频带范围$\Delta f$内，且满足$\Delta f\ll f_c$，称为窄带随机过程，可表示为：
$$\xi (t)=a_{\xi }(t)cos[{\omega }_{c}t+{\phi }_{\xi }(t)]$$
其中：

• $a_{\xi }(t)$为窄带随机过程的随机包络，且不小于0
• ${\phi }_{\xi }(t)$为随机相位
• ${\omega }_c$为中心角频率

我们也可以展开为：
$$\xi (t)={\xi }_c(t)\cos {\omega }_{c}t-{\xi }_s(t)\sin {\omega }_{c}t$$
其中：
$$\{\begin{array}{llc}{\xi }_c(t)& =& a_{\xi }(t)\cos {\phi }_{\xi }(t)同向分量\\ {\xi }_s(t)& =& a_{\xi }(t)\sin {\phi }_{\xi }(t)正交分量\end{array}$$

统计特性

• ${\xi }_c(t)$与${\xi }_s(t)$

  1. 窄带随机的和其同相分量与正交分量均值为0
  2. 窄带过程是平稳的，其同向分量和正交分量也是平稳的
  3. $$\{\begin{array}{l}{R}_c(\tau )=R_s(\tau )\\ R_{cs}(\tau )=-R_{sc}(\tau )\\ R_{cs}(\tau )=R_{sc}(-\tau )\\ R_{sc}(\tau )=-R_{sc}(-\tau )\end{array}$$
  4. 均值为0的窄带平稳高斯过程，其同向分量和正交分量都是平稳高斯过程，均值为0，方差相等，同一时刻两者互不相关或独立统计

• $a_{\xi }(t)与{\phi }_{\xi }(t)$
  由上一点可知：
  $$f({\xi }_c,{\xi }_s)=f({\xi }_c)f({\xi }_s)=\frac{1}{2\pi {\delta }_{\xi }^2}exp\left[-\frac{{\xi }_c^2+{\xi }_s^2}{2{\sigma }_{\xi }^2}\right]$$
  由雅可比行列式变换得：
  $$f(a_{\xi },{\phi }_{\xi })=a_{\xi }f({\xi }_c,{\xi }_s)=\frac{a_{\xi }}{2\pi {\delta }_{\xi }^2}exp\left[-\frac{a_{\xi }^2}{2{\sigma }_{\xi }^2}\right]$$
  $a_{\xi }$$的一维概率密度函数服从瑞利分布：
  $$f(a_{\xi })=\frac{a_{\xi }}{{\delta }_{\xi }^2}\left[-\frac{a_{\xi }^2}{2{\sigma }_x{i}^2}\right]a_{\xi }\ge 0$$
  ${\phi }_{\xi }$一维概率密度函数服从均匀分布：
  $$f({\phi }_{\xi })=\frac{1}{2\pi }0\le {\phi }_{\xi }\le 2\pi$$

• 即均值为0，方差为${\sigma }_{\xi }^2$的窄带平稳高斯过程其包络一维概率分布是瑞利分布，相位是均匀分布，且两者独立统计

---

正弦波加窄带高斯噪声

设正弦波加窄带高斯噪声的混合信号为：
$$r(t)=A\cos ({\omega }_{c}t+\theta )+n(t)$$
其中：
$$n(t)=n_c(t)\cos {\omega }_{c}t-n_s(t)\sin {\omega }_{c}t$$
为窄带高斯噪声，则，混合信号展开可得：
$$\begin{array}{rl}r(t)& =[A\cos \theta +n_c(t)]\cos {\omega }_{c}t-[A\sin \theta +n_s(t)]\sin {\omega }_{c}t\\ & =z_c(t)\cos {\omega }_{c}t-z_s(t)\sin {\omega }_{c}t\\ & =z(t)cos[{\omega }_{c}t+\phi (t)]\end{array}$$
则r(t)的包络和相位得:
$$\begin{gathered} z(t)=\sqrt{z_c^2(t)+z_s^2(t)}z\ge 0 \\ \phi (t)=\arctan \frac{z_s(t)}{z_c(t)}0\le \phi \le 2\pi \end{gathered}$$

当我们给定$\theta$角时，包络线得概率密度函数为：
$$f(z)=\frac{z}{{\sigma }_n^2}\exp \left[-\frac{1}{2{\sigma }_n^2}(z^2+A^2)\right]I_0\left(\frac{A_z}{{\sigma }_n^2}\right)z\ge 0$$
得到的概率密度函数为广义瑞利分布，又称莱斯分布，其中：
$$I_0(x)=\frac{1}{2\pi }{\int }_0^{2\pi }\exp [x\cos \phi ]d\phi$$
为第一类零阶修正贝塞尔函数，当大于零时$I_0(x)$单调上升，且有$I_0(0)=1$

当信号很小，即信噪比$\gamma =\frac{A^2}{2{\sigma }_n^2}\to 0$，分布退化为瑞利分布
当信号很大，分布接近高斯分布

---

高斯白噪声和带限白噪声

白噪声

如果噪声的功率谱密度在所有的频率上为一常数，其单边带表示为：
$$P_n(f)=\frac{n_0}{2}(-\infty <f<+\infty )(W/Hz)$$
则这样的噪声3为白噪声
则其自相关函数为：
$$R(\tau )=\frac{n_0}{2}\delta (\tau )$$
易得其平均功率为无穷大

低通白噪声

如果白噪声通过了低通滤波器，则称输出的噪声为低通白噪声，其功率谱密度为：
$$P(f)=\{\begin{array}{rlr}& \frac{n_0}{2}& |f|\le f_H\\ & & \\ & 0& else\end{array}$$
可以看出功率谱密度为门函数

带通白噪声

假设理想带通滤波器传输特性为：
$$H(f)=\{\begin{array}{rl}& 1f_c-\frac{B}{2}\le |f|\le f_c+\frac{B}{2}\\ & 0else\end{array}$$
则输出的噪声功率谱密度为：
$$P(f)=\{\begin{array}{rl}& \frac{n_0}{2}{f}_c-\frac{B}{2}\le |f|\le f_c+\frac{B}{2}\\ & \\ & 0else\end{array}$$
自相关函数为：
$$R(\tau )=n_{0}B\frac{\sin \pi B\tau }{\pi B\tau }\cos 2\pi f_c\tau$$
由于通常滤波器$$B\ll f_c$$，故也把带通白噪声叫做窄带高斯白噪声
其平均功率易得：
$$N=n_{0}B$$

---