先转发几份比较简单的介绍,后面作补充。
协方差就是这样一种用来度量两个随机变量关系的统计量,我们可以仿照方差的定义:
![](https://i-blog.csdnimg.cn/blog_migrate/e1fc14581ecefe1b539f45f214445838.png)
来度量各个维度偏离其均值的程度,协方差可以这么来定义:
![](https://i-blog.csdnimg.cn/blog_migrate/0f8c76bb0405c4a8cd70be88efd23c53.png)
那么,协方差的结果有什么意义呢?如果结果为正值,则说明两个随机变量是正相关的(从协方差可以引出“相关系数”的定义),结果为负值就说明负相关的;如果为0,也是就是统计上说的“相互独立”。
![](https://i-blog.csdnimg.cn/blog_migrate/8510035cf08515e8bb71bb77074fd85f.png)
从协方差的定义上我们也可以看出一些显而易见的性质,如:
![](https://i-blog.csdnimg.cn/blog_migrate/8510035cf08515e8bb71bb77074fd85f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/6a5f804c955f3af8885ab3a44d2c4f11.png)
![](https://i-blog.csdnimg.cn/blog_migrate/b9ab86c3a8cd376c76c3da63184b337f.png)
![](https://i-blog.csdnimg.cn/blog_migrate/21b31997955a848dac5473f16eca9b0c.png)
协方差矩阵:https://blog.csdn.net/shenziheng1/article/details/52955687
PCA算法:https://blog.csdn.net/google19890102/article/details/27969459