大数据JAVA实现基于皮尔逊相关系数的相似度

最新推荐文章于 2024-08-15 15:16:54 发布

1313123131312

最新推荐文章于 2024-08-15 15:16:54 发布

阅读量1.8k

点赞数

文章标签：大数据 JAVA 基于皮尔逊相关系数

皮尔逊相关系数理解有两个角度
1. 按照高中数学水平来理解, 它很简单, 可以看做将两组数据首先做Z分数处理之后, 然后两组数据的乘积和除以样本数Z分数一般代表正态分布中, 数据偏离中心点的距离.等于变量减掉平均数再除以标准差.(就是高考的标准分类似的处理)标准差则等于变量减掉平均数的平方和,再除以样本数,最后再开方.
所以, 根据这个最朴素的理解,我们可以将公式依次精简为:

2.按照大学的线性数学水平来理解, 它比较复杂一点,可以看做是两组数据的向量夹角的余弦.

皮尔逊相关的约束条件
1. 两个变量间有线性关系
2. 变量是连续变量
3. 变量均符合正态分布,且二元分布也符合正态分布
4. 两变量独立

皮尔逊相关系数的值域等级

0.8-1.0 极强相关
0.6-0.8 强相关
0.4-0.6 中等程度相关
0.2-0.4 弱相关
0.0-0.2 极弱相关或无相关

以上内容看起来太过晦涩，不如看个手算的示例让人更容易懂
使用维基中的例子

例如，假设五个国家的国民生产总值分别是1、2、3、5、8（单位10亿美元），又假设这五个国家的贫困比例分别是11%、12%、13%、15%、18%。

那么需要被计算的两个数据样本分别是

x->(1,2,3,5,8)
y->(0.11,0.12,0.13,0.15,0.18)

接下来计算两个数据样本的平均值

x的平均值为3.8
y的平均值为0.138

接下来计算皮尔逊系数的分子

用大白话来写就是:
(1-3.8)*(0.11-0.138)=0.0784
(2-3.8)*(0.12-0.138)=0.0324
(3-3.8)*(0.13-0.138)=0.0064
(5-3.8)*(0.15-0.138)=0.0144
(8-3.8)*(0.18-0.138)=0.1764
0.0784+0.0324+0.0064+0.0144+0.1764=0.308

同理分号下面的分别是
sum((x-mean(x))^2)=30.8 sum((y-mean(y))^2)= 0.00308

sum((x-mean(x))^2)=30.8
(1-3.8)^2=7.84 #平方
(2-3.8)^2=3.24 #平方
(3-3.8)^2=0.64 #平方
(5-3.8)^2=1.44 #平方
(8-3.8)^2=17.64 #平方
7.84+3.24+0.64+1.44+17.64=30.8

同理,求得:

sum((y-mean(y))^2)= 0.00308

然后再开平方根,分别是:

30.8^0.5=5.549775 0.00308^0.5=0.05549775

用分子除以分母,就计算出最终结果:

0.308/(5.549775*0.05549775)=1

最后附上Java代码

DataNode

package org.data.entity;

import java.util.Arrays;

public class DataNode {
    double[] datas;

    public double[] getDatas() {
        return datas;
    }

    public void setDatas(double[] datas) {
        this.datas = datas;
    }

    @Override
    public String toString() {
        return "DataNode [datas=" + Arrays.toString(datas) + "]";
    }

    public DataNode() {

    }
    public DataNode(double[] datas) {
        super();
        this.datas = datas;
    }
}

PearsonCorrelationScore

package org.data.util;

import org.data.entity.DataNode;

/**
 * 计算两个样本数据之间的皮尔逊系数
 * @author Joe
 *
 */
public class PearsonCorrelationScore {
    private double[] xData;
    private double[] yData;
    private double xMeans;
    private double yMeans;
    /**
     * 求解皮尔逊的分子
     */
    private double numerator;
    /**
     * 求解皮尔逊系数的分母
     */
    private double denominator;
    /**
     * 计算最后的皮尔逊系数
     */
    private double pearsonCorrelationScore;

    public PearsonCorrelationScore(DataNode x, DataNode y) {
        //先获取DataNode的数据
        this.xData = x.getDatas();
        this.yData = y.getDatas();
        //拿到两个数据的平均值
        this.xMeans = this.getMeans(xData);
        this.yMeans = this.getMeans(yData);
        //计算皮尔逊系数的分子

 this.numerator = this.generateNumerator();
        //计算皮尔逊系数的分母
        this.denominator = this.generateDenomiator();
        //计算皮尔逊系数
        this.pearsonCorrelationScore = this.numerator / this.denominator;
    }

    /**
     * 生成分子
     * @return 分子
     */
    private double generateNumerator() {
        double sum = 0.0;
        for (int i = 0; i < xData.length; i++) {
            sum += (xData[i] - xMeans) * (yData[i] - yMeans);
        }
        return sum;
    }
    /**
     * 生成分母
     * @return 分母
     */
    private double generateDenomiator() {
        double xSum = 0.0;
        for (int i = 0; i < xData.length; i++) {
            xSum += (xData[i] - xMeans) * (xData[i] - xMeans);
        }

        double ySum = 0.0;
        for (int i = 0; i < yData.length; i++) {
            ySum += (yData[i] - yMeans) * (yData[i] - yMeans);

  }

        return Math.sqrt(xSum) * Math.sqrt(ySum);
    }

    /**
     * 根据给定的数据集进行平均值计算
     * @param datas 数据集
     * @return 给定数据集的平均值
     */
    private double getMeans(double[] datas) {
        double sum = 0.0;
        for (int i = 0; i < datas.length; i++) {
            sum += datas[i];
        }
        return sum / datas.length;
    }

    public double getPearsonCorrelationScore() {
        return this.pearsonCorrelationScore;
    }
}

最后代码测试

package org.data.client;

import org.data.entity.DataNode;
import org.data.util.PearsonCorrelationScore;

public class PearsonTest {
    public static void main(String[] args) {
        DataNode x = new DataNode(new double[] {1, 2, 3, 5, 8});
        DataNode y = new DataNode(new double[] {0.11, 0.12, 0.13, 0.15, 0.18});
        PearsonCorrelationScore score = new PearsonCorrelationScore(x, y);
        System.out.println(score.getPearsonCorrelationScore());
    }
}