聚类：k-Means 和 k-Medoid

已于 2024-08-24 19:43:07 修改
阅读量460 收藏 21
点赞数 13
文章标签： 机器学习 支持向量机 人工智能
于 2024-08-24 19:16:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shendong70/article/details/141503560
版权

1. 前言

在《对静态分析缺陷报告进行聚类，以降低维护成本》 提到使用 k-Medoid 通过相似缺陷的聚类，来减少程序员对大量缺陷分析的工作量。

k-Medoid 和传统的 k-Means 聚类算法有什么差别呢？

简单的说，K-Medoid 算法是一种基于 K-Means 算法的聚类方法，它通过选择数据集中的点作为中心（medoid），而不是计算均值来代表聚类中心。这种方法对异常值和噪声更加鲁棒，因为它使用的是实际的数据点作为聚类中心，而不是计算出的均值点。

于是将先前的 K-Means 算法做了改进，实现了 K-Medoid 算法。

2. 聚类算法

  • 聚类基本算法步骤
  1. 初始化：选择K个数据点作为初始的质心。可以使用随机选取，也有很多改进的选取方法，以降低迭代的次数；
  2. 分配：将每个数据点分配给最近的质心，形成K个聚类。
  3. 重新计算新的质心：对于每个聚类，找到一个新的质心。
  4. 迭代：重复步骤2和3，直到满足停止条件，如质心不再改变或达到预设的迭代次数。
  5. 终止：当聚类结果稳定或达到迭代次数后，算法终止。

2.1. K-Means 聚类

K-Means 聚类, 在计算每个簇的质心时, 是使用簇的中心点（均值）。

  • K-Means 聚类的质心计算公式
    对于K-Means聚类，每个簇的质心是该簇内所有点的均值。
    假设第( i )个簇包含 N_i个数据点，每个数据点有( d )个特征。
    第( i )个簇的质心 \mu_i​ 的计算公式为：
    \mu_i = \frac{1}{N_i} \sum_{j \in C_i} x_j

其中：

  • \mu_i​ 是第( i )个簇的质心。
  • N_i 是第( i )个簇中的点的数量。
  • C_i是第( i )个簇中的点的集合。
  • x_j 是第( j )个点的坐标。

  • 特点：
    • 简单，易于实现。
    • 对于大规模数据集效率较高。
    • 对初始中心点的选择敏感，可能导致局部最优解。
    • 对异常值和噪声敏感。

  • 适用场景：
    • 数据分布近似为高斯分布。
    • 需要快速聚类结果的场景。

2.2. K-Medoid 聚类

K-Medoid 聚类, 在计算每个簇的质心时, 由一个实际的数据点（Medoid）代表。

  • K-Medoid 聚类的质心计算公式
    K-Medoid聚类不使用质心的概念，而是使用Medoid。Medoid是簇中与其他点距离之和最小的点。
    因此，K-Medoid算法中没有直接计算质心的公式，而是通过以下步骤确定Medoid：
  1. 对于每个簇，计算每个点到该簇内其他所有点的总距离。
  2. 选择总距离最小的点作为Medoid。

这个过程可以表示为：

\text{medoid}_i = \arg \min_{x_j \in C_i} \sum_{x_k \in C_i} d(x_j, x_k)

其中：

  • \text{medoid}_i 是第 i 个簇的 Medoid。

  • d(x_j, x_k)  是点 x_j和x_k 之间的距离。

  • C_i​ 是第( i )个簇中的点的集合。

  • 特点：

    • 对异常值和噪声具有较好的鲁棒性。
    • 计算复杂度较高，因为需要重新计算所有点到 Medoid 的距离。
    • 可以处理非凸形状的聚类。
    • 可能找到全局最优解，因为每次迭代都可能改变 Medoid。

  • 适用场景：

    • 数据分布不规则或包含异常值。
    • 需要更鲁棒的聚类结果。

2.3. K-Means vs K-Medoid

在 K-Medoid 算法中，Medoid 的确定是一个优化问题，需要评估簇内所有点作为 Medoid 时的总距离，并选择使这个总距离最小的点。这个过程通常比 K-Means 中的质心计算更为复杂，因为它涉及到对每个簇内所有点的两两距离计算。

比较项K-MeansK-Medoid
中心点K-Means使用计算出的中心点K-Medoid使用实际的数据点作为中心
鲁棒性K-Means容易受到这些因素的影响K-Medoid对异常值和噪声更鲁棒
计算复杂度K-Means通常更快，因为它只需要计算均值K-Medoid需要计算每个点到Medoid的距离，计算量更大
聚类形状K-Means倾向于创建圆形或球形的簇K-Medoid可以适应更复杂的形状
全局最优对初始中心点的选择敏感，可能导致局部最优解K-Medoid更可能找到全局最优解，因为它在每次迭代中都重新评估所有点作为Medoid的可能性

3. 基础定义

3.1. 距离计算类型

用于测试不同的距离计算公式对聚类结果的影响。

public enum DistanceEnum {
    EUCLIDEAN("欧氏距离"),
    MANHATTAN("曼哈顿距离"),
    MINKOWSKI("闵可夫斯基距离"),
    CHEBYSHEV("切比雪夫距离"),
    COSINE("余弦距离"),
    OTHERS("其他");

    private String distance;

    private DistanceEnum(String distance) {
        this.distance = distance;
    }
}

3.2. 用例和质心定义

用于存放用例数据或质心。

/**
 * 用例和质心的定义
 */
public class CaseRecord {
    // 用例 id
    private String id;
    // 用例的特征键值
    private Map<String, String> attributeMap;
    // 用例的向量
    private double[] vector;
    // 用例所属的质心
    private CaseRecord center;
    // 距离计算类型
    private DistanceEnum distanceType;
    // 距离值
    private double distance;
    // 聚类用例的数量
    private int clusterSize;
    // F-measure rate
    private Rate rate;
}

3.3. 定义算法接口

根据上面的算法流程，定义算法接口

/**
 * cluster interface
 * 
 */
public interface Cluster {
    /**
     * 聚类过程
     * 
     * @param k number of cluseter
     * @param distanceType distance calculate type
     * @param recordList record list
     * @return cluster center and cluster records
     * @throws SdongException module exception
     */
    Map<CaseRecord, List<CaseRecord>> cluster(int k, DistanceEnum distanceType, List<CaseRecord> recordList)
            throws SdongException;

    /**
     * 初始化聚类中心
     * 
     * @param k number of cluseter
     * @param recordList record list
     * @return cluster center
     */
    Map<CaseRecord, List<CaseRecord>> initialCenter(int k, List<CaseRecord> recordList);

    /**
     * 将数据分配给最近的质心
     * 
     * @param k number of cluseter
     * @param distanceType distance calculate type
     * @param centerMap cluster center map<center, records list>
     * @param recordList record list
     * @throws SdongException module exception
     */
    void putRecordToCenter(int k, DistanceEnum distanceType, Map<CaseRecord, List<CaseRecord>> centerMap,
            List<CaseRecord> recordList) throws SdongException;

    /**
     * 重新计算质心，并判断质心是否变化
     * 
     * @param k number of cluseter
     * @param distanceType distance calculate type
     * @param centerMap current cluster map<center, records list>
     * @return center changed return true, else returen false
     * @throws SdongException module exception
     */
    boolean newCenter(int k, DistanceEnum distanceType, Map<CaseRecord, List<CaseRecord>> centerMap)
            throws SdongException;
}

4. 聚类算法的实现

K-Means 和 K-Medoid 算法都使用相同的聚类过程、初始化聚类中心 和 分配数据到最近的质心 三个方法相同，所以将这些方法放到抽象类：ClusterAbstract 中减少重复代码。

4.1. 聚类过程

对应聚类过程定义，实现聚类过程函数(cluster)。
为了观察和统计需要，增加打印每次质心的变化，同时统计运算过程耗时。

@Override
public Map<CaseRecord, List<CaseRecord>> cluster(int k, DistanceEnum distanceType, List<CaseRecord> recordList)
    throws SdongException {
    Stopwatch stopwatch = Stopwatch.createStarted();
    LOG.info("Cluster process start.");

    // step 1: 初始化聚类中心
    Map<CaseRecord, List<CaseRecord>> centers = initialCenter(k, recordList);

    int loop = 0;
    boolean change = true;
    do {
        loop = loop + 1;
        AlgorithmUtil.printCenter(loop, centers, false);
        
        // step 2: 将数据分配给最近的质心
        putRecordToCenter(k, distanceType, centers, recordList);
        AlgorithmUtil.printCenter(loop, centers, false);

        // step 3: 重新计算质心，并判断质心是否变化
        change = newCenter(k, distanceType, centers);
    } while (change);

    AlgorithmUtil.printCenter(loop, centers, true);

    stopwatch.stop();
    LOG.info("Cluster process loop:{}, use: {} ns", loop, stopwatch.elapsed(TimeUnit.NANOSECONDS));
    return centers;
}

4.2. 初始化聚类中心

为了避免结果的随机性，这里没有使用随机生成初始质心。而先统计了数据中各向量的最小值和最大值。并按 K 均分。得到初始的质心。

后面的 K-Means 和 K-Medoid 都是采用这个方法。

@Override
public Map<CaseRecord, List<CaseRecord>> initialCenter(int k, List<CaseRecord> caseList) {
    Map<CaseRecord, List<CaseRecord>> centers = new HashMap<>(k);
    int verctorSize = caseList.get(0).getVector().length;

    // keep vector value range: min and max
    double[] min = new double[verctorSize];
    double[] max = new double[verctorSize];

    double[] vector;
    int ind = 0;
    for (CaseRecord useCase : caseList) {
        vector = useCase.getVector();
        for (int i = 0; i < verctorSize; i++) {
            if (ind == 0) {
                min[i] = vector[i];
                max[i] = vector[i];
                continue;
            }
            if (vector[i] < min[i]) {
                min[i] = vector[i];
            }
            if (vector[i] > max[i]) {
                max[i] = vector[i];
            }
        }
        ind = ind + 1;
    }

    for (int j = 0; j < verctorSize; j++) {
        LOG.info("ind={},min={}, max={}", j, min[j], max[j]);
    }

    // initial center per each vector min and max and k
    double distance;
    CaseRecord center;
    for (int c = 0; c < k; c++) {
        center = new CaseRecord();
        double[] centerVector = new double[verctorSize];
        center.setVector(centerVector);
        for (int i = 0; i < verctorSize; i++) {
            distance = max[i] - min[i];
            centerVector[i] = min[i] + distance * c / (k - 1);
        }
        centers.computeIfAbsent(center, key -> new ArrayList<>());
    }
    return centers;
}

4.3. 分配数据到最近的质心

这个也是公共部分，

@Override
public void putRecordToCenter(int k, DistanceEnum distanceType, Map<CaseRecord, List<CaseRecord>> centers,
    List<CaseRecord> recordList) throws SdongException {
    CaseRecord nearCenter = null;
    double minDistance = 0.0;
    double distance;
    CaseRecord center;
    int ind = 0;

    // clear center related records
    for (CaseRecord entry : centers.keySet()) {
        centers.put(entry, new ArrayList<>());
    }

    // put record to the nearest center
    for (CaseRecord caseRecord : recordList) {
        ind = 0;
        for (Map.Entry<CaseRecord, List<CaseRecord>> entry : centers.entrySet()) {
            center = entry.getKey();
            distance = Distance.getDistance(distanceType, caseRecord.getVector(), center.getVector(), 0.0);
            if (ind == 0) {
                minDistance = distance;
                nearCenter = center;
                ind = ind + 1;
                continue;
            }

            // 余弦相似度 是越大越好
            if (distanceType == DistanceEnum.COSINE) {
                if (distance > minDistance) {
                    minDistance = distance;
                    nearCenter = center;
                }
            } else {
                if (distance < minDistance) {
                    minDistance = distance;
                    nearCenter = center;
                }
            }
        }
        caseRecord.setDistance(minDistance);

        centers.get(nearCenter).add(caseRecord);
    }
}

4.4. 重新计算质心

4.4.1. K-Means

public class Kmeans extends ClusterAbstract {
    private static final Logger LOG = LogManager.getLogger(Kmeans.class);

    @Override
    public boolean newCenter(int k, DistanceEnum distanceType, Map<CaseRecord, List<CaseRecord>> centerMap) {
        boolean change = false;
        CaseRecord newCenter;
        int size;
        int vectorSize;
        double[] vector;
        double[] caseVector;
        // save new center
        Map<CaseRecord, List<CaseRecord>> newCenterMap = new HashMap<>(k);
        

        Iterator<Map.Entry<CaseRecord, List<CaseRecord>>> iterator = centerMap.entrySet().iterator();
        Map.Entry<CaseRecord, List<CaseRecord>> entry;
        while (iterator.hasNext()) {
            entry = iterator.next();
            newCenter = new CaseRecord();
            vectorSize = entry.getKey().getVector().length;

            // sum vector for center
            vector = new double[vectorSize];
            newCenter.setVector(vector);            
            for (CaseRecord useCase : entry.getValue()) {
                caseVector = useCase.getVector();
                for (int i = 0; i < vectorSize; i++) {
                    vector[i] = vector[i] + caseVector[i];
                }
            }

            // avrage vector for center
            size = entry.getValue().size();
            for (int i = 0; i < vectorSize; i++) {
                vector[i] = vector[i] / size;
            }

            // if center change, remove old center and add to new CenterMap
            if (checkCenterChange(entry.getKey().getVector(), newCenter.getVector())) {
                iterator.remove();
                newCenterMap.put(newCenter, new ArrayList<>());
                change = true;
            }
        }

        // merge new center
        centerMap.putAll(newCenterMap);

        return change;
    }

    private static boolean checkCenterChange(double[] vectorOrg, double[] vectorNew) {
        boolean change = false;
        int vectorSize = vectorOrg.length;
        for (int ind = 0; ind < vectorSize; ind++) {
            if (Double.compare(vectorOrg[ind], vectorNew[ind]) != 0) {
                return true;
            }
        }
        return change;
    }
}

4.4.2. K-Medoid

public class Kmedoid extends ClusterAbstract {
    private static final Logger LOG = LogManager.getLogger(Kmedoid.class);

    @Override
    public boolean newCenter(int k, DistanceEnum distanceType, Map<CaseRecord, List<CaseRecord>> centerMap)
        throws SdongException {
        boolean change = false;
        int ind = 0;
        CaseRecord newCenter = null;
        Map<CaseRecord, List<CaseRecord>> newCenterMap = new HashMap<>(k);
        Iterator<Map.Entry<CaseRecord, List<CaseRecord>>> iterator = centerMap.entrySet().iterator();
        while (iterator.hasNext()) {
            Map.Entry<CaseRecord, List<CaseRecord>> entry = iterator.next();
            
            // calcuate mix distance medoid as new center
            double minDistance = 0.0;
            ind = 0;
            for (CaseRecord medoid : entry.getValue()) {
                medoid.setDistance(calculateDistenceSum(distanceType, medoid, entry.getValue()));
                if (ind == 0) {
                    minDistance = medoid.getDistance();
                    newCenter = medoid;
                    ind = ind + 1;
                    continue;
                }

                // 余弦相似度 是越大越好
                if (distanceType == DistanceEnum.COSINE) {
                    if (medoid.getDistance() > minDistance) {
                        minDistance = medoid.getDistance();
                        newCenter = medoid;
                    }
                } else {
                    if (medoid.getDistance() < minDistance) {
                        minDistance = medoid.getDistance();
                        newCenter = medoid;
                    }
                }
            }

            // if center change, remove old center and add to new CenterMap
            if (!entry.getKey().equals(newCenter)) {
                iterator.remove();
                newCenterMap.put(newCenter, new ArrayList<>());
                change = true;
            }
        }

        // merege new center
        centerMap.putAll(newCenterMap);

        return change;
    }

    private static double calculateDistenceSum(DistanceEnum distanceType, CaseRecord medoid, List<CaseRecord> clusterList)
        throws SdongException {
        double sum = 0.0;
        for (CaseRecord cur : clusterList) {
            sum = sum + Distance.getDistance(distanceType, medoid.getVector(), cur.getVector(), 0.0);
        }
        return sum;
    }
}

5. 验证测试

5.1. 鸢尾花(Iris)数据集

鸢尾花数据集可以在UCI机器学习库中找到，这是最原始和广泛引用的来源之一。具体地址是：UCI Machine Learning Repository - Iris Dataset

鸢尾花(Iris)数据集它由三种不同品种的鸢尾花的测量数据组成：山鸢尾(setosa)、变色鸢尾(versicolor)和维吉尼亚鸢尾(virginica)。

鸢尾花数据集包含了150个样本，每个样本有四个特征：花萼长度(sepal length)、花萼宽度(sepal width)、花瓣长度(petal length)和花瓣宽度(petal width)。除了样本数据外，每个样本还有一个对应的目标类别，即鸢尾花的品种。

特征名称描述
sepal_length花萼长度
sepal_width花萼宽度
petal length花瓣长度
petal width花瓣宽度
类型山鸢尾(setosa)、变色鸢尾(versicolor)和维吉尼亚鸢尾(virginica)

5.2. 数据集数据

  • 数据分布

从各维度的投影来看，山鸢尾(setosa) 形状相对独特，通过聚类应该能够容易分辨。但变色鸢尾(versicolor)和维吉尼亚鸢尾(virginica)的形状相似，数据在四个维度上存在一定的重合，并不一定能很好的通过聚类区分出来。

5.3. K-Means 测试结果

  • 测试代码
@Test
void kmeansClusterTest_EUCLIDEAN() {
    kmeansClusterTest(DistanceEnum.EUCLIDEAN);
}

@Test
void kmeansClusterTest_COSINE() {
    kmeansClusterTest(DistanceEnum.COSINE);
}

void kmeansClusterTest(DistanceEnum distanceType) {
    try {
        List<CaseRecord> list = ImportData.importIrisData();
        int k = 3;

        Kmeans kmeans = new Kmeans();
        Map<CaseRecord, List<CaseRecord>> centers = kmeans.cluster(k, distanceType, list);
        Evaluation.evaluationCluster(centers, AIConstants.CLUSTER_CATEGORY);
    } catch (SdongException e) {
        LOG.error("{}:{}", e.getErrorPosition(), e.getMessage());
        fail("should not get exception!");
    }
}
```

5.3.1. 距离的计算使用：欧氏距离

  • 测试结果
- setosa
id = 01J615ZPC3SDY81Z84QS54KVMP, size = 50, vector: vector[0] = 5.005999999999999,vector[1] = 3.428000000000001,vector[2] = 1.4620000000000002,vector[3] = 0.2459999999999999

- virginica
id = 01J615ZPCACZND4PWY1RMCY1BG, size = 38, vector: vector[0] = 6.8500000000000005,vector[1] = 3.073684210526315,vector[2] = 5.742105263157893,vector[3] = 2.0710526315789473

- versicolor
id = 01J615ZPCAGEB317YQE24V7WAP, size = 62, vector: vector[0] = 5.901612903225807,vector[1] = 2.748387096774194,vector[2] = 4.393548387096775,vector[3] = 1.4338709677419357

Cluster process loop:6, use: 271307900 ns
Evaluation process start.
Cluster:virginica, Precision: 0.9473684210526315, ReCall: 0.72, F1: 0.8181818181818181, purity: 0.0
Cluster:setosa, Precision: 1.0, ReCall: 1.0, F1: 1.0, purity: 0.0
Cluster:versicolor, Precision: 0.7741935483870968, ReCall: 0.96, F1: 0.8571428571428571, purity: 0.0
Avg rate, Precision: 0.907187323146576, ReCall: 0.8933333333333332, F1: 0.8917748917748917, purity: 0.8933333333333333
Evaluateion process use: 6528800 ns

5.3.2. 距离的计算使用：余弦距离

  • 测试结果
- setosa
id = 01J61T8WC7AV9SYXTGGS44XDXH, size = 50, vector: vector[0] = 5.005999999999999,vector[1] = 3.428000000000001,vector[2] = 1.4620000000000002,vector[3] = 0.2459999999999999

- virginica
id = 01J61T8WCG7XKZ4M57B4ERCNBG, size = 55, vector: vector[0] = 6.519999999999997,vector[1] = 2.965454545454545,vector[2] = 5.479999999999999,vector[3] = 1.9854545454545451

- versicolor
id = 01J61T8WCF05QJ44EJM3GW4GQX, size = 45, vector: vector[0] = 5.946666666666666,vector[1] = 2.757777777777778,vector[2] = 4.204444444444444,vector[3] = 1.2977777777777777

Cluster process loop:4, use: 186595900 ns
Evaluation process start.
Cluster:versicolor, Precision: 1.0, ReCall: 0.9, F1: 0.9473684210526316, purity: 0.0
Cluster:setosa, Precision: 1.0, ReCall: 1.0, F1: 1.0, purity: 0.0
Cluster:virginica, Precision: 0.9090909090909091, ReCall: 1.0, F1: 0.9523809523809523, purity: 0.0
Avg rate, Precision: 0.9696969696969697, ReCall: 0.9666666666666667, F1: 0.9665831244778613, purity: 0.9666666666666667
Evaluateion process use: 4176400 ns

5.4. K-Medoid 测试结果

  • 测试代码
@Test
void kMmedoidClusterTest_EUCLIDEAN() {
    kMmedoidClusterTest(DistanceEnum.EUCLIDEAN);
}

@Test
void kMmedoidClusterTest_COSINE() {
    kMmedoidClusterTest(DistanceEnum.COSINE);
}

void kMmedoidClusterTest(DistanceEnum distanceType) {
    try {
        List<CaseRecord> list = ImportData.importIrisData();
        int k = 3;

        Kmedoid kmedoids = new Kmedoid();
        Map<CaseRecord, List<CaseRecord>> centers = kmedoids.cluster(k, distanceType, list);
        Evaluation.evaluationCluster(centers, AIConstants.CLUSTER_CATEGORY);
    } catch (SdongException e) {
        LOG.error("{}:{}", e.getErrorPosition(), e.getMessage());
        fail("should not get exception!");
    }
}

5.4.1. 距离的计算使用：欧氏距离

  • 测试结果
- versicolor
id = 79, size = 62, vector: vector[0] = 6.0,vector[1] = 2.9,vector[2] = 4.5,vector[3] = 1.5

- virginica
id = 113, size = 38, vector: vector[0] = 6.8,vector[1] = 3.0,vector[2] = 5.5,vector[3] = 2.1

- setosa
id = 8, size = 50, vector: vector[0] = 5.0,vector[1] = 3.4,vector[2] = 1.5,vector[3] = 0.2

Cluster process loop:4, use: 224608300 ns
Evaluation process start.
Cluster:versicolor, Precision: 0.7741935483870968, ReCall: 0.96, F1: 0.8571428571428571, purity: 0.0
Cluster:virginica, Precision: 0.9473684210526315, ReCall: 0.72, F1: 0.8181818181818181, purity: 0.0
Cluster:setosa, Precision: 1.0, ReCall: 1.0, F1: 1.0, purity: 0.0
Avg rate, Precision: 0.9071873231465761, ReCall: 0.8933333333333332, F1: 0.8917748917748917, purity: 0.8933333333333333
2024-08-24 17:37:41.071 INFO [main] Evaluation.java.evaluationCluster.48: Evaluateion process use: 5386900 ns

5.4.2. 距离的计算使用：余弦距离

  • 测试结果
- versicolor
id = 87, size = 45, vector: vector[0] = 6.7,vector[1] = 3.1,vector[2] = 4.7,vector[3] = 1.5

- virginica
id = 113, size = 55, vector: vector[0] = 6.8,vector[1] = 3.0,vector[2] = 5.5,vector[3] = 2.1

- setosa
id = 39, size = 50, vector: vector[0] = 4.4,vector[1] = 3.0,vector[2] = 1.3,vector[3] = 0.2

Cluster process loop:3, use: 188439800 ns
Evaluation process start.
Cluster:setosa, Precision: 1.0, ReCall: 1.0, F1: 1.0, purity: 0.0
Cluster:virginica, Precision: 0.9090909090909091, ReCall: 1.0, F1: 0.9523809523809523, purity: 0.0
Cluster:versicolor, Precision: 1.0, ReCall: 0.9, F1: 0.9473684210526316, purity: 0.0
Avg rate, Precision: 0.9696969696969697, ReCall: 0.9666666666666667, F1: 0.9665831244778613, purity: 0.9666666666666667
Evaluateion process use: 4957100 ns

5.5. 结果分析

  • 结果汇总
聚类方法距离计算迭代次数精度召回率F1纯度
K-Means欧氏距离60.9071870.8933330.8917750.893333
K-Medoid欧氏距离40.9071870.8933330.8917750.893333
K-Means余弦距离40.9696970.9666670.9665830.966667
K-Medoid余弦距离30.9696970.9666670.9665830.966667

  • 分析结论
    • K-Means 和 K-Medoid 在相同距离算法的时候，K-Medoid 迭代次数少于 K-Means。
    • K-Means 和 K-Medoid 在相同距离算法的时候，得到的每个簇内的质心，位置接近；
    • K-Means 和 K-Medoid 聚类结果一致，都在山鸢尾(setosa)的聚类中，完全正确；但在变色鸢尾(versicolor)和维吉尼亚鸢尾(virginica)的聚类中，存在一定的偏差。这与前面数据分布的分析结果一致；
    • K-Means 和 K-Medoid 都在余弦距离的计算比欧式距离的计算得到了更好的聚类效果；
    • 在鸢尾花(Iris)数据集的聚类效果上，K-Means 和 K-Medoid 表现相同。
  • 遗留问题
    • 在分析过程中通过多次计算取均值来衡量资源的消耗，所以这里没有给出资源消耗的对比；
    • 在数据处理上，并为做归一化处理，后面需要考虑归一化对结果的影响；
    • K 值目前是固定的传入的，在实际应用中，需要完善 K 的选取过程；
    • 目前实现的是两类算法的基本算法，未采用一些优化算法，在维度较大的情况，需要改进现有算法。

6. 结论

  • 本文实现了 K-Means 和 K-Medoid 的算法；
  • 使用鸢尾花(Iris)数据集做了两种聚类方法在欧氏距离和余弦距离的聚类测试；
  • 通过精度、召回率、F1、纯度 对聚类效果做了评估；
  • 聚类分析可以揭示数据向量化是否能够捕捉到数据的内在结构和模式；
  • 聚类是验证数据向量化有效手段；
  • 聚类本身并不保证向量化是最优的，因为聚类结果可能受到所选聚类算法、参数设置、数据分布等因素的影响；
  • 聚类分析应与其他数据分析和模型评估方法结合使用，以全面评估数据向量化的有效性。

7. 参考

  • K-Means聚类算法研究综述，华东交通大学学报；
  • K-means clustering algorithms: A comprehensive review, variants analysis, and advances in the era of big data
  • An improved K-medoids algorithm based on step increasing and optimizing medoids
  • Fast and eager k-medoids clustering:O(k)runtime improvement of the PAM,CLARA,and CLARANS algorithms
  • Clustering by fast search and find of density peaks
Old Uncle Tom
关注
  • 13
    点赞
  • 踩
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
聚类算法：K-means和K-medoids
weixin_43868020的博客
05-20 2938
K-means算法 核心思想 通过迭代把数据对象划分到不同的簇中，以求目标函数最小化，从而使生成的簇尽可能地紧凑和独立。 首先，随机选取k个对象作为初始的k个簇的质心； 然后，将其余对象根据其与各个簇质心的距离分配到最近的簇；再求新形成的簇的质心。 这个迭代重定位过程不断重复，直到目标函数最小化为止。 目标函数为平方误差准则函数，采用欧几里得距离度量 1、优点： 在处理大数据集时，该算法是相对可扩展性的，并且具有较高的效率。 算法复杂度为O(nkt),其中，n为数据集中对象的数目，k为期望得到的簇的数目，t
机器学习：K-means和K-medoid聚类算法
iotflh的博客
01-03 4448
一、两个算法的区别 两者的区别主要在质心的选择，K-means是样本点均值，K-medoid是从当前分类样本点中选取距离和最小的点。 二、算法步骤 1、K-means 1、随机选取K个质心 2、计算各个点到质心的距离 3、将点的类划分到离他最近的质心，形成K个cluster 4、根据分类好的cluster，在每个cluster内重新计算质心 每个cluster中各个点的平均值 5、重复迭代2-4次，知道前后两次分类误差小于指定值 2、K-medoids 1、随机选取K个质心 质心必须是某些样本点的值 2、计
聚类算法K-Means, K-Medoids, GMM, Spectral clustering，Ncut
天下对手教会少林武僧
08-03 378
聚类算法是ML中一个重要分支，一般采用unsupervised learning进行学习，本文根据常见聚类算法分类讲解K-Means, K-Medoids, GMM, Spectral clustering，Ncut五个算法在聚类中的应用。 Clustering Algorithms分类 1. Partitioning approach: 建立数据的不同分割，然后用相同标准评价聚类结果。（比如最小化平方误差和） 典型算法：K-Means, K-Med...
两种基于划分的聚类算法：K-means和K-medoids
zhangshunchao94的博客
08-10 1330
基于划分的聚类算法K-means，K-medoids，Fuzzy c-means
k-中心聚类（k-medoids）算法——附MATLAB代码
m0_69715013的博客
08-23 2307
k-medoids聚类是一种无监督的聚类算法，它对未标记数据中的对象进行聚类
K-Means及K-Medoid
To be a better man
11-29 2231
K-Means及K-Medoid 1 算法简介 通常意义上接触的聚类问题是一个按照相似性（距离）进行样本聚集的过程，即把相似的（或距离近的）样本聚为同一类，而把不相似的（或距离远的）样本归在其他类。 我们以一个二维的例子来说明聚类的目的。如下图左所示，假设我们的n个样本点分布在图中所示的二维空间。从数据点的大致形状可以看出它们大致聚为三个簇，其中两个紧凑一些，剩下那个松散一些。我们的目的是为这些数...
[学习笔记] [机器学习] 8. 聚类算法（聚类算法：K-means、K-means++；聚类算法评估；特征降维：特征选择（Pearson相关系数、Spearman相关系数）、PCA主成分分析）
Le0v1n 的博客
06-10 2855
聚类算法：K-means、K-means++；聚类算法评估；特征降维：特征选择（Pearson相关系数、Spearman相关系数）、PCA主成分分析
聚类 k-means k-medoids代码实现
01-06
k-means 是最流行的聚类算法之一，它的核心思想是通过迭代找到 k 个中心点（或称质心），使得每个数据点到其所属簇中心的距离之和最小。以下是 k-means 算法的基本步骤： 1. **初始化**：随机选择 k 个数据点作为...
聚类--K-mediods1
08-08
K-means 算法会受到“噪声”点的影响，从而导致类簇质点的偏移，影响聚类结果的准确性。K-medoids 算法则通过选择合适的质点来解决这个问题。 K-means 算法的缺点之一是对“噪声”敏感。当聚类的样本点中有“噪声”...
C#，无监督的K-Medoid聚类算法（K-Medoid Algorithm）与源代码
03-24
K-Medoid（也称为围绕Medoid的划分）算法是由Kaufman和Rousseeuw于1987年提出的。中间点可以定义为簇中的点，其与簇中所有其他点的相似度最小。K-medoids聚类是一种无监督的聚类算法，它对未标记数据中的对象进行...
K-medoids聚类源代码（K-means改进）
01-16
- **适用性**：K-medoids不仅适用于连续型数据，也适用于离散型和混合型数据，而K-means通常只适用于连续型数据。 在处理某些特定问题时，如当数据包含类别变量或需要考虑特定的业务规则时，K-medoids可能是一个更...
第九周：机器学习笔记
Zcymatics的博客
08-23 897
本周主要对李宏毅的机器学习视频进行了学习，其中学习了CNN的一个特殊的网络结构——spatial Transformer，学会了其怎么完成平移、缩放以及旋转的原理以及期间了解到了Interpolation（插值）算法，最后还了解了其应用场景。此外，继续对Pytorch进行了学习，重点学习了线性层，了解了其改变shape的作用，然后还了解了其他层，例如，归一化层、循环层等特定的网络结构。最后，做了一个小项目，把CIFAR-10的Model复现出来，并学会了使用Sequential。
【机器学习】探索机器学习在旅游业的革新之旅
loveting99的博客
08-21 852
本文全面探讨了机器学习技术在旅游行业中的广泛应用，从基础概念到高级技术逐步展开。机器学习在旅游行业的概念与发展：我们首先对机器学习的基本原理进行了回顾，并探讨了其在旅游行业中的历史与现状。旅游行业与机器学习的结合展示了数字化转型的巨大潜力，为行业提供了创新的解决方案。旅游数据的获取与处理：通过详细介绍旅游行业数据的特征与来源，我们强调了数据清洗、预处理与特征工程在机器学习模型中的重要性。良好的数据基础是模型精度和有效性的保障。推荐系统的应用：推荐系统是机器学习在旅游业中的典型应用之一。
未来已来：探索机器学习如何重塑人工智能的未来方向
xafarsight的博客
08-23 378
像 OpenAI 正在训练的下一代人工智能“Q*”，其智能不依赖人类活动的数据，且有能力修改自身代码以适应更复杂的学习任务，未来可能在各个领域发展出超越人类水平的 AI，可用于解决各种复杂的科学难题。图像识别技术的进一步发展：借助深度学习模型，计算机对图像内容的识别和分析将更加准确，人机交互的深度融合得以实现，在医学影像诊断、智能交通、安防等领域的应用将更为广泛。人工智能和机器学习技术的发展迅速，以上趋势只是目前的一些主要方向，随着技术的不断进步和创新，还可能会出现新的发展趋势。
回归预测|基于北方苍鹰优化混合核极限学习机的数据预测Matlab程序NGO-HKELM 多特征输入单输出
最新发布
2401_86241083的博客
08-24 629
NGO-HKELM回归预测模型通过结合北方苍鹰优化算法和混合核极限学习机，能够利用优化算法提高HKELM的性能，同时混合核函数增强了模型对复杂数据模式的捕捉能力。这种组合方法通常能提供更高的预测准确性和更强的泛化能力。包括但不限于。
机器学习在智能复合材料中的应用与实践
y2715163545的博客
08-20 942
在人工智能与复合材料技术融合的背景下，复合材料的研究和应用正迅速发展，创新解决方案层出不穷。从复合材料性能的精确预测到复杂材料结构的智能设计，从数据驱动的材料结构优化到多尺度分析，人工智能技术正以其强大的数据处理能力和模式识别优势，推动复合材料领域的技术进步。适合材料科学、电力工业、航空航天科学与工程、有机化工、无机化工、建筑科学与工程、自动化技术、工业通用技术、汽车工业、金属学与金属工艺、机械工业、船舶工业等领域的科研人员、工程师、及相关行业从业者、跨领域研究人员。
机器学习：逻辑回归--下采样
纸上得来终觉浅
08-20 1878
机器学习：逻辑回归--下采样
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值