今天看论文的时候又看到了协方差矩阵这个东西,作图像基本就绕不过它,虽然公式网上都有,但是不太明白它的物理意义,通俗的说,它到底是干嘛的,为啥总露脸,哪里都看得到~~单以前看PCA的时候就特困扰,没想到现在还是搞不清楚,索性开始查协方差矩阵的资料,恶补之后决定马上记录下来,嘿嘿~本文我将整理网上搜到的资料,谈谈我的理解,我自认为是循序渐进的方式谈协方差矩阵,希望一篇文章,讲清它的来龙去脉。有不明白的地方,欢迎指出,我们一起探究。
统计学的基本概念
学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。
均值:
标准差:
方差:
很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。以这两个集合为例,[0,8,12,20]和[8,9,11,