已知向量e协方差矩阵，求Ae协方差矩阵

最新推荐文章于 2022-12-27 11:11:48 发布

皮皮君

最新推荐文章于 2022-12-27 11:11:48 发布

阅读量1.5k

点赞数

分类专栏：机器学习算法算法导论文章标签：协方差矩阵

本文链接：https://blog.csdn.net/qq_16587307/article/details/100055201

版权

算法同时被 3 个专栏收录

11 篇文章 0 订阅

订阅专栏

机器学习

10 篇文章 0 订阅

订阅专栏

算法导论

6 篇文章 0 订阅

订阅专栏

如果已知向量 $\boldsymbol{e}$ (n行1列)的协方差矩阵，求一个矩阵 $\boldsymbol{A}$ （m行n列）乘以 $\boldsymbol{e}$ 之后 $\boldsymbol{Ae}$ 的协方差矩阵。

根据协方差矩阵的定义可知， $\boldsymbol{e}$ 的协方差矩阵定义:

$c_{e}=\begin{bmatrix} cov(e_{1},e_{1}) & cov(e_{1},e_{2})& \hdots &cov(e_{1},e_{n}) \\ cov(e_{2},e_{1})& cov(e_{2},e_{2})& \hdots&cov(e_{2},e_{n}) \\ \vdots & \vdots & \vdots & \vdots \\ cov(e_{n},e_{1})& cov(e_{n},e_{2})& \hdots& cov(e_{n},e_{n}) \end{bmatrix}$

即 $c_{e}$ 中的 (i,j) 项为:

$cov(e_{i},e_{j})$

假设

$\boldsymbol{A}=\begin{bmatrix} \boldsymbol{a_{1}}^T\\ \boldsymbol{a_{2}}^T\\ \vdots\\ \boldsymbol{a_{m}}^T \end{bmatrix}$

因此

$\boldsymbol{Ae}=\begin{bmatrix} \boldsymbol{a_{1}}^T\boldsymbol{e}\\ \boldsymbol{a_{2}}^T\boldsymbol{e}\\ \vdots\\ \boldsymbol{a_{m}}^T \boldsymbol{e}\end{bmatrix}$

因此向量 $\boldsymbol{Ae}$ 的协方差矩阵中的 (i,j) 项为:

$cov(\boldsymbol{a_{i}}^T\boldsymbol{e},\boldsymbol{a_{j}}^T\boldsymbol{e})$

根据协方差定义

$cov(\boldsymbol{a_{i}}^T\boldsymbol{e},\boldsymbol{a_{j}}^T\boldsymbol{e})=E[(\boldsymbol{a_i}^T\boldsymbol{e}-E(\boldsymbol{a_i}^T\boldsymbol{e}))(\boldsymbol{a_j}^T\boldsymbol{e}-E(\boldsymbol{a_j}^T\boldsymbol{e}))]$

===================================================

现在，我们假设已知

$\boldsymbol{e} \sim N(0,\sigma^2\boldsymbol{I})$

也就是

$c_{e}=\begin{bmatrix} \sigma ^2 & 0& \hdots &0 \\ 0& \sigma ^2 & \hdots&0 \\ \vdots & \vdots & \vdots & \vdots \\ 0& 0& \hdots& \sigma ^2 \end{bmatrix}=\sigma^2\boldsymbol{I}$

根据这个假设，我们很容易可知

$E(e_{i}e_{j})=\left\{ \begin{array}{lr} \sigma ^2, & i=j \\ 0, & i\neq j. \end{array} \right.$

那么

因为

$\boldsymbol{a_j}^T\boldsymbol{e}=\boldsymbol{e}^T\boldsymbol{a_j}$

因此，

$cov(\boldsymbol{a_{i}}^T\boldsymbol{e},\boldsymbol{a_{j}}^T\boldsymbol{e})=E[\boldsymbol{a_i}^T\boldsymbol{e}\boldsymbol{a_j}^T\boldsymbol{e}]=E[\boldsymbol{a_i}^T\boldsymbol{e}\boldsymbol{e}^T\boldsymbol{a_j}]=E[\boldsymbol{a_i}^T\sigma ^2 \boldsymbol{I}\boldsymbol{a_j}]=\sigma ^2\boldsymbol{a_i}^T\boldsymbol{a_j}$