相关性检验-皮尔逊检验

原理:通过统计学方法来判断两个变量之间是否存在显著的关联关系。

一般来说,相关性检验主要有两种常见的方法:Pearson相关分析和Spearman等级相关分析。


总体皮尔逊Person相关系数

Pearson相关分析是一种用来度量两个连续变量之间线性关系强度和方向的统计方法。它基于变量之间的协方差来衡量它们之间的相关性,并将其标准化以得到相关系数。Pearson相关系数的取值范围在-1到1之间。

计算公式:若有两组总体数据X:\left \{ {X_{1},X_{2},...,X_{n}}\right \}Y:\left \{ {Y_{1},Y_{2},...,Y_{n}}\right \}

         总体皮尔逊Person相关系数:\rho _{XY}=\frac{Cov(X,Y)}{\sigma _{X}\sigma _{Y}}

其中Cov(X,Y)为总体协方差:Cov(X,Y)=\frac{\sum_{i=1}^{n}(X_{i}-E(X))(Y_{i}-E(Y))}{n}E(X),E(Y)为总体均值;\sigma _{x}为X的标准差\sigma _{X=}\sqrt{\frac{\sum_{i=1}^{n}(X_{i}-E(X))^{2}}{n}}\sigma _{Y}为Y的标准差\sigma _{Y=}\sqrt{\frac{\sum_{i=1}^{n}(Y_{i}-E(Y))^{2}}{n}}

注意:只有在两组数据本身是线性关系时,才可以用皮尔逊相关系数来表示相关性大小。其中相关系数在-1到1之间:绝对值越大,则相关性越强。系数为正时,两者呈正相关;系数为负时,两者呈负相关。

否则,即使算出相关系数很大时,不确定两变量什么关系时,不能说明线性相关。


现在假设有两组数据(线性关系),对其进行皮尔逊相关系数检验

假设两组数据为X:\left \{ {X_{1},X_{2},...,X_{n}}\right \}Y:\left \{ {Y_{1},Y_{2},...,Y_{n}}\right \},但是由于是调查采集得到,所以数据均为样本数据,不是总体数据

样本皮尔逊Person相关系数:\tau _{XY}=\frac{Cov(X,Y)}{S _{X}S_{Y}}

其中样本协方差:Cov(X,Y)=\frac{\sum_{i=1}^{n}(X_{i}-E(X))(Y_{i}-E(Y))}{n-1}

   S_{X}为X的样本标准差S _{X}=\sqrt{\frac{\sum_{i=1}^{n}(X_{i}-E(X))^{2}}{n-1}}S _{Y}为Y的样本标准差S_{Y}=\sqrt{\frac{\sum_{i=1}^{n}(Y_{i}-E(Y))^{2}}{n-1}}

皮尔逊相关系数的计算假设了数据来自于正态分布。如果数据不符合正态分布,相关系数的计算结果可能会受到偏差或不准确。 所以需要对数据进行正态分布检验。


正态分布检验:根据数据大小选择不同的检验方法

  • 雅克‐贝拉检验(JB检验):当样本数大于30时

        可以证明,如果\left \{ X_{i} \right \}是正态分布,那么在大样本情况下JB\sim \chi ^{2}(2)(自由度为2的卡方分布)

        其中JB=\frac{n}{6}\left [ S^{2}+\frac{(K-3)^{2}}{4} \right ]   

        接下来利用假设检验来验证正态性

  • Shapiro‐wilk夏皮洛‐威尔克检验:当样本数大于3小于50时

           利用spss来进行验证假设检验

  • 或使用QQ图,数据是否近似地分布在一条直线上来验证正态性(数据量特别大时才有效)

计算相关系数显著性

对于计算所得的相关系数,我们需要验证其是否显著异于零,来说明两数据是否具有线性性质。

  1. 提出原假设:r=0和备择假设: r\neq 0,r为皮尔逊相关系数
  2. 对于皮尔逊相关系数r,符合自由度为n-2的t分布,构造统计量t=r\sqrt{\frac{n-2}{1-r^{2}}}
  3. 代入数据,得到检验值
  4. 根据分布情况,画出概率密度函数pdf, 并给定一个置信水平(一般取95%,或90%,99%),查表得到临界值。
  5. 比较临界值和检验值:若检验值大于临界值,则说明在该置信水平下,拒绝原假设r=0,即相关系数显著异于零,两者呈线性关系。

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值