Canopy + K-means：聚类算法的“黄金搭档”优化方案（附代码）

AI妈妈手把手

于 2025-06-17 15:53:13 发布

阅读量1k

点赞数 23

CC 4.0 BY-SA版权

分类专栏：聚类算法原理——K-means算法及优化算法文章标签：算法 kmeans 聚类决策树 canopy

本文链接：https://blog.csdn.net/qiutesting/article/details/148717133

聚类算法原理——K-means算法及优化算法专栏收录该内容

8 篇文章

订阅专栏

在机器学习的聚类任务中，K-means 就像一位“老牌明星”，简单高效，但也有“小脾气”——对初始中心点敏感，容易陷入局部最优。今天，我们就来聊聊如何通过 Canopy + K-means 组合拳，让聚类效果更上一层楼！✨

🤔 为什么要优化 K-means？

K-means 的痛点：

初始中心点随机 🎲：每次运行结果可能不同，稳定性差。
容易陷入局部最优 🌀：如果初始点选得不好，聚类效果可能大打折扣。
需要预先指定 K 值 🔢：K 值的选择往往依赖经验或多次尝试。

Canopy 算法的加入，正是为了解决这些问题！💡

📚 Canopy + K-means 算法原理

1. Canopy 算法：快速粗聚类

Canopy 是一种快速粗聚类算法，它的核心思想是：

用两个距离阈值（T1 > T2）将数据分成多个“Canopy”（帐篷）🏕️。
每个数据点至少属于一个 Canopy，可能属于多个。

步骤：

随机选一个点作为第一个 Canopy 的中心。
计算其他点到该中心的距离：
- 如果距离 < T1，加入当前 Canopy。
- 如果距离 < T2，标记为“已处理”，不再作为新 Canopy 的中心。
重复上述过程，直到所有点被处理。

结果：得到多个 Canopy，每个 Canopy 包含一组数据点。

2. K-means 算法：精细聚类

在 Canopy 的基础上，用 K-means 进行精细聚类：

将 Canopy 的中心点作为 K-means 的初始中心点 🎯。
运行 K-means，得到最终聚类结果。

📝 算法步骤

Canopy 粗聚类：
- 输入数据集 D，距离阈值 T1 和 T2。
- 生成多个 Canopy，记录每个 Canopy 的中心点和包含的数据点。
K-means 精细聚类：
- 将 Canopy 的中心点作为 K-means 的初始中心点。
- 运行 K-means，得到最终聚类结果。

示意图：

🌟 优缺点分析

优点：

稳定性高 🛡️：Canopy 提供了合理的初始中心点，减少 K-means 的随机性。
效率高 ⚡：Canopy 快速粗聚类，减少 K-means 的迭代次数。
无需预先指定 K 值 🎯：Canopy 的数量可以作为 K 值的参考。

缺点：

T1 和 T2 的选择依赖经验 🤔：不同数据集需要调整阈值。
Canopy 粗聚类可能丢失细节 🔍：粗聚类可能无法完全反映数据的真实分布。

🌐 应用场景

大规模数据聚类 📊：如用户行为分析、商品推荐系统。
图像分割 🖼️：将图像分成多个区域，便于后续处理。
文本聚类 📚：如新闻分类、主题建模。

📈 场景应用示例：用户行为聚类（附代码）

场景：某电商平台想对用户行为进行聚类，以便精准营销。

代码实现（Python）

import numpy as np
from sklearn.cluster import KMeans
from sklearn.datasets import make_blobs
import matplotlib.pyplot as plt

# 1. 生成模拟数据
X, _ = make_blobs(n_samples=1000, centers=3, random_state=42)

# 2. Canopy 粗聚类
def canopy_clustering(data, t1, t2):
    centers = []
    processed = [False] * len(data)
    
    for i in range(len(data)):
        if not processed[i]:
            center = data[i]
            centers.append(center)
            
            for j in range(len(data)):
                if not processed[j]:
                    dist = np.linalg.norm(data[j] - center)
                    if dist < t1:
                        processed[j] = True
                    if dist < t2:
                        pass  # 不作为新中心
    return np.array(centers)

# 设置阈值
t1, t2 = 3.0, 1.5
canopy_centers = canopy_clustering(X, t1, t2)

# 3. K-means 精细聚类
kmeans = KMeans(n_clusters=len(canopy_centers), init=canopy_centers, n_init=1)
kmeans.fit(X)
labels = kmeans.labels_

# 4. 可视化结果
plt.figure(figsize=(12, 5))

plt.subplot(1, 2, 1)
plt.scatter(X[:, 0], X[:, 1], c='gray', alpha=0.5)
plt.title("Original Data")

plt.subplot(1, 2, 2)
plt.scatter(X[:, 0], X[:, 1], c=labels, alpha=0.5)
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], 
            c='red', marker='x', s=100)
plt.title("Canopy + K-means Clustering")

plt.tight_layout()
plt.show()