【随机信号处理笔记】 Chapter2 随机变量

声明

本系列笔记为随机信号处理课程笔记，旨在帮助大伙复习使用，PPT截取部分为课堂PPT，本人能力不强，如果大伙发现了笔记中的错误，还请不吝赐教，我会及时修正

2.1 随机变量

根据随机变量X的取值可以分为：连续型、离散型

离散随机变量

概率密度函数：$p[x_i]$

概率分布函数：$F(x_i)={\sum }_{x_i\le x}p(x_i)$

连续随机变量

概率密度函数：$p(x)=\frac{dF(x)}{dx}$

概率分布函数：$F(x)={\int }_{-\infty }^{x}p(x)dx$

均匀分布：$p(x)=\{\begin{array}{ll}\frac{1}{b-a},& a\le x\le b\\ 0,& \text{其他}\end{array}$

高斯分布：$p(x)=\frac{1}{\sqrt{2\pi }{\sigma }_x}exp[-\frac{{(x-m_x)}^2}{2{\sigma }_x^2}]$

瑞利分布：$p(x)=\frac{x}{{\sigma }^2}exp[-\frac{x^2}{2{\sigma }^2}]$

二维随机变量

二维联合概率密度函数：$p_2(x,y)=\frac{{\partial }^2{F}_2(x,y)}{\partial x\partial y}$

二维联合概率分布函数：$F(x,y)={\int }_{-\infty }^x{\int }_{-\infty }^{y}p(x,y)dxdy$

边缘分布函数：$F(x)={\int }_{-\infty }^{x}dx{\int }_{-\infty }^{\infty }p(x,y)dy$

二维概率密度函数隐含的一维概率密度函数信息：

$p(x)={\int }_{-\infty }^{\infty }p(x,y)dx$

相关系数$\gamma$：表征二维随机变量之间的相关性，取值为[-1,1]，当$\gamma$=0时，$p(x,y)=p(x)p(y)$，称为X与Y统计独立，为归一化协方差，表达式：$\gamma =\frac{C_{XY}}{\sigma x\sigma y}$

随机变量的数字特征

让我们从矩的概念入手，矩的定义式为：

k阶原点矩：$m_k=E(X^k)={\int }_{-\infty }^{\infty }{x}^{k}p(x)dx$

k阶中心矩：$c_k=E({(X-m_X)}^k)={\int }_{-\infty }^{\infty }{(X-m_X)}^{k}p(x)dx$

其它数字特征均由矩式变化而来

数学期望：一阶原点矩$E(X)={\int }_{-\infty }^{\infty }xp(x)dx=m_x$

• $E(bX)=bE(x)$
• $E(X+Y)=E(X)+E(Y)$
• 若X，Y彼此统计独立，$E(XY)=E(X)E(Y)$

方差：二阶中心矩$D(X)={\int }_{-\infty }^{\infty }{(X-m_X)}^{2}p(x)dx$

• 方差反应了偏离程度、误差总功率
• 方差=平均功率-均值平方 $D(X)=E(X^2)-E^2(X)$
• 标准差：${\sigma }_x=\sqrt{E[{(X-m_x)}^2]}$
• $D(bX)=b^{2}D(X)$
• 若X与Y统计独立，$D(X+Y)=D(X)+D(Y)$

对于多维随机变量，有：

i+j阶混合矩：$m_{ij}=E(X^i{Y}^j)$

i+j阶混合中心距：$C_{ij}=E[(X-m_x{)}^i(Y-m_y{)}^j]$

协方差：二阶混合中心距$C_{XY}=E[(X-m_x)(Y-m_y)]$

相关系数：归一化协方差${\gamma }_{XY}=\frac{C_{XY}}{{\sigma }_X{\sigma }_Y}$

• 如果两个随机变量统计独立，则它们互不相关，有${\gamma }_{XY}=0$,反之若两个随机变量互不相关，只有在X,Y服从正态分布时，它们统计独立。简言之，相关性反映的是协方差或相关系数，独立性反映概率分布函数之间的数学关系。
• E(XY)=0,则X与Y正交
• 相关系数反映了随机变量之间的依赖程度：
  

2.2随机变量的变换

单X对单Y：已知$Y=g(X)$得反函数$X=h(Y)$，有$p(y)=|\frac{dx}{dy}|p[h(y)]$

多X对单Y：由反函数$X_i=h_i(y)$,得$p(y)={\sum }_i|\frac{d{x}_i}{dy}|p[h_i(y)]$

二X对二Y：$p(y_1,y_2)=p(x_1,x_2)J_2$

式中$J_2$为雅各比行列式$J_2=|\frac{\partial (x_1,x_2)}{\partial (y_1,y_2)}|=\left|\begin{array}{cc}\frac{\partial x_1}{\partial y_1}& \frac{\partial x_1}{\partial y_2}\\ \frac{\partial x_2}{\partial y_1}& \frac{\partial x_2}{\partial y_2}\end{array}\right|$

两道经典例题，证明了电子系统中复高斯噪声幅度所服从瑞利分布相位服从均匀分布、独立变量和概率为各自概率相卷积

2.3随机变量的特征函数

特征函数：${\Phi }_X(\omega )=E[e^{j\omega X}]={\int }_{-\infty }^{\infty }{e}^{j\omega x}p(x)dx$，是$e^{j\omega X}$的数学期望

特征函数与概率密度函数是一对傅里叶变换

即：$p(x)=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{\Phi }_X(\omega )e^{-j\omega x}d\omega$