K均值算法分析与实现（附源码）

最新推荐文章于 2024-05-14 14:43:43 发布
最新推荐文章于 2024-05-14 14:43:43 发布
阅读量1.3k 收藏 6
点赞数 2
分类专栏： 实验 文章标签： 均值算法 聚类 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43136689/article/details/122926326
版权

K均值算法分析与实现

一、问题分析

题目要求对以下的十个点进行K均值聚类，
{x1(0,0),x2(3,8),x3(2,2),x4(1,1),x5(5,3),x6(4,8),x7(6,3),x8(5,4),x9(6,4),x10(7,5)}
首先，使用matlab绘出这十个点的散点图，如图所示。
在这里插入图片描述

二、方案实施

K均值聚类算法的原理为：
(1)任选K个模式特征矢量作为初始聚类中心：z1(1),z2(1),…zK(1)。括号内的序号表示迭代次数。
(2)将待分类的模式特征矢量集{x}中的模式逐个按最小距离原则分划给K类中的某一类。
如果Dj(k) =min{||x-zi(k)||},i=1,2,…,K，则判x∈Sj(k)
(3)计算重新分类后的各聚类中心zj(k+1)，即求各聚类域中所包含样本的均值向量：
在这里插入图片描述
以均值向量作新的聚类中心，可得新的准则函数：
在这里插入图片描述
(4)如果zj(k+1)=zj(k)(j=1,2,…K),则结束；否则，k=k+1,转(2)
如图所示。
在这里插入图片描述
题目提供的数据集在本方案的操作下，一定迭代了四次。计算过程如下：
1、数据集初始化三个中心点分别为initCenter[0]={6.0,4.0}，initCenter[1]={6.0,3.0}，initCenter[2]={2.0,2.0}，如图所示。
在这里插入图片描述
接着，根据最小距离原则，将数据集中的点归类到对应的距离最小的簇中去。如图所示。
在这里插入图片描述
2、根据公式计算新一轮迭代的簇的中心，分别(5.0,5.8)、(5.5,3.0)、(1.0,1.0)，如图所示。
在这里插入图片描述接着，根据最小距离原则，将数据集中的点归类到对应的距离最小的簇中去。如图所示。
在这里插入图片描述
3、根据公式计算新一轮迭代的簇的中心，分别(4.6666665,7.0)、(5.5,3.5)、(1.0,1.0)，如图所示。
在这里插入图片描述
接着，根据最小距离原则，将数据集中的点归类到对应的距离最小的簇中去。如图所示。
在这里插入图片描述
4、根据公式计算新一轮迭代的簇的中心，分别(3.5,8.0)、(5.8,3.8)、(1.0,1.0)，如图所示。
在这里插入图片描述
接着，根据最小距离原则，将数据集中的点归类到对应的距离最小的簇中去。如图所示。
在这里插入图片描述
5、最后，通过第五次迭代检查误差是否不再变化，经过检查，第五次迭代的结果与第四次一样，误差不再发生变化，因此，此方案聚类计算的结果如图所示。
在这里插入图片描述

1、Kmeans.java
package my;

import java.util.ArrayList;
import java.util.Random;
 
//K均值聚类算法
public class Kmeans {
	private int k;//簇的个数
	private int n;//簇的个数
	//数据集合的长度，即数据集中有多少个点
	private int dataSetNum;
	private ArrayList<float[]> dataSet;	//数据集链表
	private ArrayList<ArrayList<float[]>> Cluster; // 簇
	private ArrayList<float[]> Center;
	private ArrayList<Float> SSE;//距离平方和
	private Random random;
 
	
	//构造函数，传入聚类的簇的个数
	public Kmeans(int k) {
		if (k <= 0) {
			k = 1;
		}
		//如果传入的k小于等于0，设置为1
		this.k = k;
	}
	
	//设置原始聚类数据集
	public void setDataSet(ArrayList<float[]> dataSet) {
		this.dataSet = dataSet;
	}
 
    //return聚类结果
	public ArrayList<ArrayList<float[]>> getCluster() {
		return Cluster;
	}
 
	//初始化
	private void init() {
		n = 0;
		random = new Random();
		dataSetNum = dataSet.size();
		if (k > dataSetNum) {
			k = dataSetNum;
		}
		Center = initCenters();
		Cluster = initCluster();
		SSE = new ArrayList<Float>();
	}


	//初始化聚类中心数据链表
	private ArrayList<float[]> initCenters() {
		ArrayList<float[]> center = new ArrayList<float[]>();
		//中心点的个数和簇的个数一样
		int[] randoms = new int[k];
		boolean flag;
		int temp = random.nextInt(dataSetNum);
		randoms[0] = temp;
		for (int i = 1; i < k; i++) {
			flag = true;
			while (flag) {
				temp = random.nextInt(dataSetNum);
				int j = 0;
				while (j < i) {
					if (temp == randoms[j]) {
						break;
					}
					j++;
				}
				if (j == i) {
					flag = false;
				}
			}
			randoms[i] = temp;
		}
 
		for (int i = 0; i < k; i++) {
			center.add(dataSet.get(randoms[i]));
		}
		return center;
	}
 
	//初始化簇，返回一个有k个簇的数据集
	private ArrayList<ArrayList<float[]>> initCluster() {
		ArrayList<ArrayList<float[]>> cluster = new ArrayList<ArrayList<float[]>>();
		for (int i = 0; i < k; i++) {
			cluster.add(new ArrayList<float[]>());
		}
 
		return cluster;
	}
 
	//计算数据点和中心点距离
	private float distance(float[] element, float[] center) {
		float distance = 0.0f;
		float x = element[0] - center[0];
		float y = element[1] - center[1];
		float z = x * x + y * y;
		distance = (float) Math.sqrt(z);
 
		return distance;
	}
 
	//获取距离集合中最小距离的位置，返回最小距离在距离数组中的位置
	private int minDistance(float[] distance) {
		float minDistance = distance[0];
		int minLocation = 0;
		for (int i = 1; i < distance.length; i++) {
			if (distance[i] < minDistance) {
				minDistance = distance[i];
				minLocation = i;
			} 
			else if (distance[i] == minDistance) 
			{
				if (random.nextInt(10) < 5) {
					// 如果相等，随机返回一个位置
					minLocation = i;
				}
			}
		}
 
		return minLocation;
	}
 

	//将当前元素放到最小距离中心相关的簇中
	private void clusterSet() {
		float[] distance = new float[k];
		for (int i = 0; i < dataSetNum; i++) {
			for (int j = 0; j < k; j++) {
				distance[j] = distance(dataSet.get(i), Center.get(j));
				// System.out.println("test2:"+"dataSet["+i+"],center["+j+"],distance="+distance[j]);
 
			}
			int minLocation = minDistance(distance);
			// System.out.println("test3:"+"dataSet["+i+"],minLocation="+minLocation);
			// System.out.println();
			//将当前元素放到最小距离中心相关的簇中
			Cluster.get(minLocation).add(dataSet.get(i));
 
		}
	}
 
	
	//求两点误差平方的方法
	private float errorSquare(float[] element, float[] center) {
		float x = element[0] - center[0];
		float y = element[1] - center[1];
 
		float errSquare = x * x + y * y;
 
		return errSquare;
	}
 
	//计算误差平方和准则函数方法
	private void countRule() {
		float jcF = 0;
		for (int i = 0; i < Cluster.size(); i++) {
			for (int j = 0; j < Cluster.get(i).size(); j++) {
				jcF += errorSquare(Cluster.get(i).get(j), Center.get(i));
 
			}
		}
		SSE.add(jcF);
	}
 
	//设置新的簇中心方法
	private void setNewCenter() {
		for (int i = 0; i < k; i++) {
			int n = Cluster.get(i).size();
			if (n != 0) {
				float[] newCenter = { 0, 0 };
				for (int j = 0; j < n; j++) {
					newCenter[0] += Cluster.get(i).get(j)[0];
					newCenter[1] += Cluster.get(i).get(j)[1];
				}
				// 设置平均值
				newCenter[0] = newCenter[0] / n;
				newCenter[1] = newCenter[1] / n;
				Center.set(i, newCenter);
			}
		}
	}
 
	//打印数据集
	public void printDataArray(ArrayList<float[]> dataArray,
			String dataArrayName) {
		for (int i = 0; i < dataArray.size(); i++) {
			System.out.println("print:" + dataArrayName + "[" + i + "]={"
					+ dataArray.get(i)[0] + "," + dataArray.get(i)[1] + "}");
		}
		System.out.println("————————————————————————————————");
	}
 
	
	private void kmeans() {
		init();
		
		printDataArray(dataSet,"initDataSet");
		printDataArray(Center,"initCenter");
 
		// 循环分组，直到误差不变为止
		while (true) {
			clusterSet();
			for(int i=0;i<Cluster.size();i++)
			{
			 printDataArray(Cluster.get(i),"cluster["+i+"]");
			}
 
			countRule();
 
			System.out.println("count:"+"jc["+n+"]="+SSE.get(n));
 
			System.out.println();
			// 误差不变了，分组完成
			if (n != 0) {
				if (SSE.get(n) - SSE.get(n - 1) == 0) {
					break;
				}
			}
 
			setNewCenter();
			printDataArray(Center,"newCenter");
			n++;
			Cluster.clear();
			Cluster = initCluster();
		}
		System.out.println("note:the times of repeat:n="+n);//输出迭代次数
	}
 

	public void execute() {
		long startTime = System.currentTimeMillis();
		System.out.println("kmeans begins");
		kmeans();
		long endTime = System.currentTimeMillis();
		System.out.println("kmeans running time=" + (endTime - startTime)
				+ "ms");
		System.out.println("kmeans ends");
		System.out.println();
	}
}




2、Test.java
package my;
import java.util.ArrayList;
import my.Kmeans;
 
public class Test {
	public  static void main(String[] args)
	{
		//初始化一个Kmean对象，将k置为3
		Kmeans k=new Kmeans(3);
		ArrayList<float[]> dataSet=new ArrayList<float[]>();
		
		dataSet.add(new float[]{0,0});
		dataSet.add(new float[]{3,8});
		dataSet.add(new float[]{2,2});
		dataSet.add(new float[]{1,1});
		dataSet.add(new float[]{5,3});
		dataSet.add(new float[]{4,8});
		dataSet.add(new float[]{6,3});
		dataSet.add(new float[]{5,4});
		dataSet.add(new float[]{6,4});
		dataSet.add(new float[]{7,5});
		//设置原始数据集
		k.setDataSet(dataSet);
		//执行算法
		k.execute();
		//得到聚类结果
		ArrayList<ArrayList<float[]>> cluster=k.getCluster();
		//查看结果
		for(int i=0;i<cluster.size();i++)
		{
			k.printDataArray(cluster.get(i), "cluster["+i+"]");
		}
		
	}
}
jessy@liu
关注
  • 2
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
k-平均算法(k-means算法)(k均值算法)例题
m0_46400910的博客
12-09 2万+
k-平均算法(k-means算法)（k均值算法）例题 簇的数目k=2 下表数据表（n=8）行数据
详解K均值聚类算法（K-means Clustering）简易实例：从空调温度判别使用者
hnZone
10-31 9859
本文以空调温度的模拟记录为数据集，利用一个一维二类的K均值聚类算法实例进行分析，从而阐明聚类算法的核心精神，并手把手带你完成一个K均值聚类算法的实战。最终利用实验结果阐明这种聚类的一个小型缺陷，以期启发读者思考。
机器学习全解 - K均值聚类算法 (含算法介绍，公式，手写代码实现，调包实现)
最新发布
qq_51222843的博客
05-14 2436
Kmeans算法是最常用的聚类算法，主要思想是:在给定K值和K个初始类簇中心点的情况下，把每个点(亦即数据记录)分到离其最近的类簇中心点所代表的类簇中，所有点分配完毕之后，根据一个类簇内的所有点重新计算该类簇的中心点(取平均值)，然后再迭代的进行分配点和更新类簇中心点的步骤，直至类簇中心点的变化很小，或者达到指定的迭代次数。
k均值聚类算法(K Means)及其实战案例
Qwertyuiop2016的博客
12-23 8922
算法说明 K均值聚类算法其实就是根据距离来看属性，近朱者赤近墨者黑。其中K表示要聚类的数量，就是说样本要被划分成几个类别。而均值则是因为需要求得每个类别的中心点，比如一维样本的中心点一般就是求这些样本的算术平均数。 这里存在一个问题了，在最开始我并不知道哪个样本属于哪个类别，那么我怎么能求出中心点呢？如何去划分类别呢？既然是无监督的算法，肯定是没有结果来做训练的。 算法思想 首先最开始的类别我们需...
机器学习实战第十章 K-均值聚类
sketch_2314的博客
07-20 932
经过本章的学习，加深了对k-均值的了解，一个典型的聚类算法，主思想是将样本数据划分为K个簇，使得每个样本点都属于离其最近的簇中心，也就是质点，K-均值算法的优点包括简单、易于实现和计算效率高。然而，该算法的结果受到初始簇中心的选择和数据分布的影响，可能会陷入局部最优解。因此，在使用K-均值算法时，通常需要进行多次运行并选择最优的结果。
k-means算法例题应用
weixin_41145305的博客
04-04 2万+
k-means算法例题应用。假设有如下8个点：(3,1),(3,2),(4,1),(4,2),(1,3),(1,4),(2,3),(2,4)。使用K-means算法对其进行聚类。设初始聚类中心分别为(0,4)和(3,3)。写出详细的计算过程
K均值算法java数据挖掘算法源码算法源码.rar
06-01
在Java编程语言中，实现K均值算法可以为数据处理和分析提供强大的工具。 该压缩包文件包含的是K均值算法的Java源代码，可以帮助开发者理解和应用这个算法。以下是K均值算法的一些关键知识点： 1. **基本步骤**： ...
模式识别_动态聚类_k均值算法_matlab_画图分析_k-means_Clustering
03-11
资源名：模式识别_动态聚类_k均值算法_matlab_画图分析_k-means_Clustering 资源类型：matlab项目全套源码 源码说明： 全部项目源码都是经过测试校正后百分百成功运行的，如果您下载后不能运行可联系我进行指导或者...
模糊 C 均值算法 的简单python实现_python_代码_下载
06-08
在提供的压缩包文件"**fuzzy-c-means-master**"中，应该包含了完整的FCM算法Python实现源码，你可以下载后查看并运行，进一步了解和学习模糊C均值算法的细节。通过阅读和实践代码，你可以更好地理解算法的工作原理，...
毕设使用的粒子群与K均值聚类的混合算法，matlab源码
06-17
脉冲响应的相关分析算法并检验，采用累计贡献率的方法，阐述了负荷预测的应用研究,FMCW调频连续波雷达的测距测角，包括回归分析和概率统计，加入重复控制。
K-mean聚类算法C++实现源码+文档.zip
03-10
在这个压缩包中，包含了一个C++实现的K-Mean算法源码（k-means2.cpp）以及相关的文档(k-means.docx)。 首先，K-Mean算法的基本流程可以概括为以下几步： 1. 初始化：选择k个初始质心，通常随机选取数据集中k个点...
数据挖掘-K-Means算法
热门推荐
二十同学
12-02 5万+
微信搜索：“二十同学” 公众号，欢迎关注一条不一样的成长之路 今天说聚类，但是必须要先理解聚类和分类的区别，很多业务人员在日常分析时候不是很严谨，混为一谈，其实二者有本质的区别。 分类其实是从特定的数据中挖掘模式，作出判断的过程。比如Gmail邮箱里有垃圾邮件分类器，一开始的时候可能什么都不过滤，在日常使用过程中，我人工对于每一封邮件点选“垃圾”或“不是垃圾”，过一段时间，Gmail就体现出一定的智能，能够自动过滤掉一些垃圾邮件了。这是因为在点选的过程中，其实是给每一条邮件打了一个“标签”，这个标签只有
Matlab中实现K-means聚类算法
qq_28416103的博客
10-27 2126
K-means聚类算法采用的是将N*P的矩阵X划分为K个类，使得类内对象之间的距离最大,而类之间的距离最小。 使用方法： Idx=Kmeans(X,K) [Idx,C]=Kmeans(X,K) [Idx,C,sumD]=Kmeans(X,K) [Idx,C,sumD,D]=Kmeans(X,K) […]=Kmeans(…,’Param1’,Val1,’Param2’,Val2,…) 各输入输出参数介绍： X NP的数据矩阵 K 表示将X划分为几类，为整数 Idx N1的向量，存储的是每个点的聚类标号 C K
机器学习算法之K-means（K均值聚类）算法
tttaeyang的博客
10-08 7065
聚类 聚类，简单来说，就是将一个庞杂数据集中具有相似特征的数据自动归类到一起，称为一个簇，簇内的对象越相似，聚类的效果越好。它是一种无监督的学习(Unsupervised Learning)方法,不需要预先标注好的训练集。聚类与分类最大的区别就是分类的目标事先已知，例如猫狗识别，你在分类之前已经预先知道要将它分为猫、狗两个种类；而在你聚类之前，你对你的目标是未知的，同样以动物为例，对于一个动物集来...
K-means算法实例
赖床分子的博客
03-22 2631
数据挖掘的含义是从大量的数据当中挖掘出更有价值的信息和知识，从而来更好的提供决策依据。
机器学习（九）：k-均值（k-means）
tb店铺搜：FUN STORE玩物社，专业买手挑选送礼好物
05-03 3万+
引言：     k均值（k-means）是一种聚类算法，其工作流程如下：随机选择k个点作为初始质心（质心即簇中所有点的中心），然后将数据集中的每个点分配到一个簇中，具体来讲，为每个点找距其最近的质心，并将其分配给该质心所对应的簇。这一步完成之后，每个簇的质心更新为该簇所有点的平均值。重复以上步骤，直到质心不发生变化。     k均值的操作解释参见图1。 图1     然而随机地选取初始...
机器学习初探：（十）K均值聚类（K-means）以及KNN算法
m0_60862600的博客
02-25 3250
本篇将介绍无监督学习家族中的一种经典聚类算法——K均值聚类（K-means）。 文章目录K均值聚类（K-means）导论什么是K-meansK-means的操作步骤K-means的分类效果轮廓系数（Silhouette Coefficient）肘部确定法（Elbow Method）改进K-means之K
【聚类算法】带你轻松搞懂K-means聚类（含代码以及详细解释）
qq_43727529的博客
09-12 1万+
K-means算法是典型的基于距离（欧式距离、曼哈顿距离）的聚类算法，采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。k均值聚类是最著名的划分聚类算法，由于简洁和效率使得他成为所有聚类算法中最广泛使用的。给定一个数据点集合和需要的聚类数目k，k由用户指定，k均值算法根据某个距离函数反复把数据分入k个聚类中。有以下6个点，初始随机选取两个点作为两个簇的簇中心（这里假设选取的是A3,A4），求最后的簇所属情况。2️⃣:将红色对应的点和绿色对应的每个点分别求X,Y平均值，最为新的簇心。
k-means算法介绍及相关问题解决
至臻求学，胸怀云月
10-18 1910
k-means算法介绍 条件及约定： 设待分类的模式特征矢量集为{x1,x2,…,xN}； 类的数目K是事先取定的。 基本思想： 首先任意选取K个聚类中心，按最小距离原则将各模式分配到K类的某一类； 不断计算聚类中心和调整各模式的类别，最终使各模式到其判属类别中心的距离平方之和最小。 准则函数： 聚类集中每一样本点到该类中心的距离平方和。 算法步骤 [外链图片转存失败,源站可能有防盗链...
K均值算法详解与实现
在这个PPT中，介绍了K均值的基本思想、算法流程以及一个简单的Python实现示例。" 在机器学习领域，K均值算法是一种广泛应用的聚类方法，它通过将数据集中的样本点分配到最近的聚类中心来实现分组。K均值的主要目标...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值