相关分析是数据分析的一个基本方法,可以用于发现不同变量之间的关联性,关联是指数据之间变化的相似性,这可以通过相关系数来描述。发现相关性可以帮助你预测未来,而发现因果关系意味着你可以改变世界。
一,协方差和相关系数
如果随机变量X和Y是相互独立的,那么协方差
Cov(X,Y) = E{ [X-E(X)] [Y-E(Y)] } = 0,
这意味着当协方差Cov(X,Y) 不等于 0 时,X和Y不相互独立,而是存在一定的关系,此时,称作X和Y相关。在统计学上,使用协方差和相关系数来描述随机变量X和Y的相关性:
协方差:如果两个变量的变化趋势一致,也就是说如果其中一个大于自身的期望值,另外一个也大于自身的期望值,那么两个变量之间的协方差就是正值。 如果两个变量的变化趋势相反,即其中一个大于自身的期望值,另外一个却小于自身的期望值,那么两个变量之间的协方差就是负值。从数值来看,协方差的数值越大,两个变量同向程度也就越大。
![](https://i-blog.csdnimg.cn/blog_migrate/aa7abc77a3dcb157c24cc557dfdb105f.png)
相关系数:相关系数消除了两个变量变化幅度的影响,只是单纯反应两个变量每单位变化时的相似程度。
![](https://i-blog.csdnimg.cn/blog_migrate/1ced22225479c6cac60e156c10a56701.png)
相关系数用于描述定量变量之间的关系,相关系数的符号(+、-)表明关系的方向(正相关、负相关),其值的大小表示关系的强弱程度(完全不相关时为0,完全相关时为1)。
例如,下面两种情况中,很容易看出X和Y都是同向变化的,而这个“同向变化”有个非常显著特征:X、Y同向变化的过程,具有极高的相似度。
![](https://i-blog.csdnimg.cn/blog_migrate/5dbc93dda465a1b4d0dbd39238ad4bae.png)
1,观察协方差,情况一的协方差是:
![](https://i-blog.csdnimg.cn/blog_migrate/ac853ae14ce55b4ff38c586dd7eddd03.png)
情况二的协方差是:
![](https://i-blog.csdnimg.cn/blog_migrate/ffdda05c910c62d292648f0c55130280.png)
协方差的数值相差一万倍,只能从两个协方差都是正数判断出在这两种情况下X、Y都是同向变化,但是一点也看不出两种情况下X、Y的变化都具有相似性这一特点。
2,观察相关系数,情况一的相关系数是:
![](https://i-blog.csdnimg.cn/blog_migrate/6d0c1ce8571712993e1f37da35fa7439.png)
情况二的相关系数是:
![](https://i-blog.csdnimg.cn/blog_migrate/f417a0acda577717429ab73be7ba2ea5.png)
虽然两种情况的协方差相差1万倍,但是,它们的相关系数是相同的,