模拟和数字通信：随机过程

Random variable 和 Random process

对于随机变量，一个随机试验的结果是一个实数
对于随机过程，一个随机试验的结果是一个随时间变化的波形，用函数 X(t) 表示

在每一个特定的时间，我们都可以从随机过程中得到一个随机变量，所有时间下的随机变量组成随机过程
比如时间 $t_0$ 时，在随机过程中观察到的值 $X(t_0)$ 就是一个随机变量

分布函数与概率密度函数

假设随机过程$X(t)$在一个时间点 $t_1$ 时的值为 $X(t_1)$，定义这个值小于一个数值 $x_1$ 的概率为 $F_1(x_1,t_1)$，我们将其称为随机过程$X(t)$ 的一维分布函数

这里的一维指的是函数中包含的值，如果我们增加一个时间点，同时要求时间 $t_2$ 时随机过程对应的值要小于 $x_2$，可以得到二维分布函数$F_1(x_2,t_2)$

如果这个一维分布函数存在对于数值 $x_1$ 的偏导 $f1(x_1,t_1)$，这个偏导数就是随机过程的一维概率密度函数

概率密度函数，指的是时间 t 时，随机过程的值为 x 的概率

Mean of random process

多数情况下，我们不用分布函数或概率密度函数，而是用更加直观的均值，方差和相关函数来描述随机过程的特征

随机过程的均值一般来说就是这个过程的数学期望，其计算方式为：

其中 $f_X$是概率密度函数，我们用数值 x，乘以时间 t 时随机过程的值为 x 的概率，将其对 x 积分，就可以得到这个随机过程在时间 t 的期望

Autocorrelation of random process

随机过程的自相关函数实际上就是它的协方差

不同于方差只关注一个点相对于期望的偏离程度，协方差会关注两个点
如果两个点上的值相对于期望的偏向相同，如都偏高或偏低，则协方差为正，如果一个大于期望，一个小于期望，则协方差为负

当关注的两个点属于同一个随机过程时，这个协方差是自相关
当两个点属于多个随机过程，则其为互相关

表达式为：

其中$f(x_1,x_2;t_1,t_2)$是这个随机过程的二维概率密度函数

广义平稳随机过程

称一个随机过程为广义平稳随机过程，需要满足两个条件

1. 随机过程的期望，也就是平均值与时间 t 无关，是一个常数
2. 自相关函数只与采样的时间间隔 $\tau$ 有关

Ergotic process

如果一个随机过程的统计平均值（均值或自相关函数），可以由任意一个 sample 的时间平均值来代替，则称这个随机过程具有各态历经性

具有各态历经性，意味着这个随机过程的每一个 sample 都经历了所有可能的状态

具有各态历经性的过程一定为平稳过程，反之则不然

通信系统中的绝大多数随机信号和噪声都具有各态历经性

平稳过程的自相关函数

对于平稳随机过程$X(t)$，它的自相关函数为：

当 $\tau =0$ 时，可以得到
$$R_X(0)=E[X(t{)}^2]$$
这表示的是 $X(t)$ 的平均功率

对于具有各态历经性的平稳过程，平均功率也可以等价为：

实信号自相关函数的重要性质

1. 自相关函数是一个偶函数
2. 0 点处的自相关函数表示随机过程的平均功率
3. 自相关函数在 0 点有最大值，即：

随机过程的功率谱密度（PSD）

随机过程中的任意一个 sample $x(t)$ 是确定的功率信号，功率信号的功率谱密度为：

功率谱密度和自相关函数是一对傅里叶变换对

通常情况下直接计算功率谱密度十分困难，所有常常通过对自相关函数做傅里叶变换来得到PSD

PSD 的性质

1. 功率谱密度的积分是平稳随机过程的平均功率，即等于$\tau =0$时的自相关函数
2. 平稳随机过程的PSD总是非负的
3. 实随机过程的PSD是一个偶函数
4. 一个功率谱密度为 $S_X(f)$ 的平稳随机过程 $X(t)$，在经过一个频率响应为 $H(f)$ 的线性滤波器后，输出的随机过程 $Y(t)$ 的功率谱密度$S_Y(f)$为 $|H(f){|}^2{S}_X(f)$，即