矩阵分析与应用

一个欣语

已于 2022-06-20 19:47:14 修改

阅读量1.2k

点赞数

文章标签：线性代数

于 2022-06-20 19:39:10 首次发布

本文链接：https://blog.csdn.net/weixin_46007132/article/details/125376950

版权

协方差矩阵

随机向量 $x(\xi)$ 的自协方差矩阵定义为：
$C_{x}=E\left \{ [x(\xi)-\mu _{x}][x(\xi)-\mu _{x}]^{H} \right \} \\ \\=\begin{bmatrix} c_{11} & c_{12}&.. . &c_{1m} \\ c_{21}& c_{22} &.. . &c_{2m} \\ .. .& .. . & .. .& .. .\\ c_{m1}&c_{m2} & .. . & c_{mm} \end{bmatrix}$

式中，主对角线的元素：
$c_{ii}=E\left \{ |x_{i}(\xi)-\mu _{i}|^{2} \right \}, i=1,2,.. .,m$

这表示随机变量 $x_{i}(\xi)$ 的方差 $\sigma _{i}^{2}$ ，即 $c_{ii}=\sigma _{i}^{2}$

而非主对角线元素表示如下：
$c_{ij}=E\left \{[x_{i}(\xi)-\mu _{i}][x_{j}(\xi)-\mu _{j}]^{*} \right \}=E\left \{ x_{i}(\xi) x_{j}^{*}(\xi) \right \}-\mu_{i}u_{j}^{*}=c_{ji}^{*}$

这表示随机变量 $x_{i}(\xi)$ 和 $x_{j}(\xi)$ 之间的协方差。

自协方差矩阵也是Hermitian矩阵。

自相关矩阵和自协方差矩阵之间存在以下关系：
$C_{x}=R_{x}-\mu_{x}\mu_{x}^{H}$

互相关矩阵和互协方差矩阵

推广自相关矩阵和自协方差矩阵的概念，则有随机向量 $x(\xi)$ 和 $y(\xi)$ 的互相关矩阵如下：
$R_{xy}=E\left \{ x(\xi) y^{H}(\xi)\right \}=\begin{bmatrix} r_{x_{1}y_{1}} & r_{x_{1}y_{2}} & .. . &r_{x_{1}y_{m}} \\ r_{x_{2}y_{1}} & r_{x_{2}y_{2}}& .. . &r_{x_{2}y_{m}} \\ .. .& .. . & .. . &.. . \\ r_{x_{m}y_{1}}& r_{x_{m}y_{2}}& .. .& r_{x_{m}y_{m}} \end{bmatrix}$

互协方差矩阵：
$C_{xy}=E\left \{ [x(\xi)-\mu _{x}][y(\xi)-\mu _{y}]^{H} \right \}\\ \\=R_{xy}-\mu_{x}\mu_{y}^{H}\\ \\=\begin{bmatrix} c_{x_{1}y_{1}} & c_{x_{1}y_{2}} & .. . &c_{x_{1}y_{m}} \\ c_{x_{2}y_{1}} & c_{x_{2}y_{2}}& .. . &c_{x_{2}y_{m}} \\ .. .& .. . & .. . &.. . \\ c_{x_{m}y_{1}}&c_{x_{m}y_{2}}& .. .& c_{x_{m}y_{m}} \end{bmatrix}$

式中， $r_{x_{i},y_{i}}=E\left \{ x_{i}(\xi)y_{j}^{*}(\xi) \right \}$ 是随机变量 $x_{i}(\xi)$ 和 $y_{j}(\xi)$ 之间的互相关。

$c_{x_{i},y_{j}}=E\left \{ [x_{i}(\xi)-\mu_{x_{i}}] [y_{j}(\xi)-\mu_{y_{j}}]^{*} \right \}$ 是随机变量 $x_{i}(\xi)$ 和 $y_{j}(\xi)$ 之间的互协方差。

一个随机向量的自相关矩阵和自协方差矩阵均为正方的共轭对称矩阵，而两个维数不同的随机向量之间的互相关矩阵和互协方差矩阵是非正方的矩阵。即使这两个随机向量的维数相同，互相关矩阵和互协方差矩阵为正方矩阵，但它们也不是共轭对称的。

当采样点 $\xi$ 取一系列值时，随机变量序列 $\left \{ x_{i}(\xi) \right \}$ 构成一随机过程或信号。由于随机信号减去自己的均值后，只剩下随机变化部分，所以协方差函数给出的是两个随机信号之间随机变化部分的相乘。一般来说，两个随机信号的随机变化部分中的共性部分的相乘总是取相同的符号，使得共性部分得到加强而保留下来。而两个信号的非共性部分则是随机的，它们的乘积有时取正有时取负，通过数学期望的平均运算后，趋于相互抵消。

这也意味着，互协方差函数能把两个信号之间随机变化的共性部分提取出来，并抑制掉非共性部分。因此，互协方差函数描述了两个信号之间的相关程度。也就是说，互协方差函数越大，则这两个随机信号的相关程度越强，反之，相关程度越弱。

但是使用互协方差的绝对大小度量两个随机向量的相关程度并不方便。

两个随机变量 $x(\xi)$ 和 $y(\xi)$ 之间的相关系数定义为：
$\rho _{xy}=\frac{c_{xy}}{\sqrt{E\left \{ |x(\xi)|^{2} E\left \{ |y(\xi)|^{2} \right \}\right \}}}=\frac{c_{xy}}{ \sigma _{x} \sigma _{y}}$