相关性分析：Pearson、Kendall、Spearman

在分析特征间相关性时，常使用的方法是pandas.DataFrame.corr：

DataFrame.corr(self, method=’pearson’, min_periods=1)

其中包含的方法主要为：

• pearson：Pearson相关系数
• kendall：Kendall秩相关系数
• Spearman：Spearman等级相关系数

目录

• Pearson相关系数
  • 皮尔逊相关系数的定义
  • 皮尔逊相关系数的数学特性
  • 皮尔逊相关系数的适用范围
  • 皮尔逊相关系数的Python实现
  • 皮尔逊距离
  • 皮尔逊相关系数与余弦相似度和欧氏距离的关系
  • Scipy的pearsonr方法
• Kendall秩相关系数
• Spearman等级相关系数
  • Pearson 相关方法和 Spearman 相关方法的比较
  • 其他非线性关系
• 相关性检测Python实战
• 相关文章:

Pearson相关系数

在统计学中，皮尔逊相关系数相关系数（英语：Pearson product-moment correlation coefficient，又称作 PPMCC或PCCs, 用r表示）用于度量两个变量X和Y之间的相关（线性相关），其值介于-1与1之间。-1表示完全的负相关(这个变量下降，那个就会上升)，+1表示完全的正相关，0表示没有线性相关。通常情况下通过以下相关系数取值范围判断变量的相关强度：

• 0.8-1.0 极强相关
• 0.6-0.8 强相关
• 0.4-0.6 中等程度相关
• 0.2-0.4 弱相关
• 0.0-0.2 极弱相关或无相关

该相关系数是判断两组数据与某一直线拟合程度的一种度量，对应的公式比欧几里得距离计算公式要复杂，但是他在数据不是很规范（normalized）的时候，会倾向于给出更好的结果。

皮尔逊相关系数的定义

两个变量之间的皮尔逊相关系数定义为两个变量之间的协方差和标准差的商：

 

ρX,Y=cov(X,Y)σXσY=E[(X−μX)(Y−μY)]σXσY

协方差是一个反映两个随机变量相关程度的指标，如果一个变量跟随着另一个变量同时变大或者变小，那么这两个变量的协方差就是正值，反之相反。虽然协方差能反映两个随机变量的相关程度（协方差大于0的时候表示两者正相关，小于0的时候表示两者负相关），但是协方差值的大小并不能很好地度量两个随机变量的关联程度，其值大小与两个变量的量纲有关，不适于比较。为了更好的度量两个随机变量的相关程度， Pearson相关系数其在协方差的基础上除以了两个随机变量的标准差。相关系数ρ相当于协方差的“标准化”，消除了量纲的影响。

上式定义了总体相关系数，常用希腊小写字母 ρ (rho) 作为代表符号。估算样本的协方差和标准差，可得到样本相关系数(样本皮尔逊系数)，常用英文小