Kmeans以及优化的二分Kmeans

最新推荐文章于 2022-08-24 12:07:48 发布
VIP文章 最新推荐文章于 2022-08-24 12:07:48 发布
阅读量1.7k 收藏 5
点赞数 2
分类专栏： 机器学习实战 with python 机器学习实战 文章标签： 算法 优化
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gentle_guan/article/details/76221159
版权

利用kmeans算法进行非监督分类

1.聚类与kmeans

  • 引例:2004美国普选布什51.52% 克里48.48% 实际上，如果加以妥善引导，那么一有小部分人就会转换立场，那么如何找到这一小部分人以及如何在有限预算采取措施吸引他们呢？答案就是聚类(<<机器学习实战>>第十章)
  • kmeans,k均值算法,属于聚类算法中的一种，属于非监督学习。
  • 聚类中的一个重要的知识就是”簇”，简单说簇就是相似数据的集合，而在kmeans中主要是进行簇之间距离的运算，所以引入”质心”的概念，所谓质心就是代表这一簇的一个点(类比圆心)，由于簇中有很多点，那么质心的选取就是利用了”均值”，簇中所有点的平均值就是簇的质心，通过簇，一堆数据被分成k类，这就成了算法的名字“k均值”的直观解释.

2.kmeans伪代码以及思想

Kmeans是发现给定数据集的k个簇的算法，k是用户给定的。
主要工作流程伪代码如下

create k个点作为质心 (通常是随机选取)
while任意一个簇存在变化时
—— for 数据集中的数据点
——— for 每个质心
————- 计算质心到点的距离
————- 打擂台 找到最小的两者距离 记录id
——— 将数据点分配到最近的簇(打擂台记录了id)
—— 更新分配后的簇的质心(簇中所有点的均值)
返回质心列表以及分配的结果矩阵

3.二分-kmeans伪代码以及思想

主要思想
将每个簇一分为二 选取最小更新

伪代码
while 簇个数小于k
—— for 每个簇
———- 记录总误差
———- 在给定的簇上进行k=2的kmeans算法
———- 计算一分为二后的总误差
—— 选择最小误差的那个簇进行划分操作
返回簇以及分配情况

-
kmeans错误分类
kmeans的错误分类
kmeans正确分类
kmeans的正确分类
二分-kmeans未翻车
二分-kmeans未翻车

 # -*- coding:utf-8 -*-

from numpy i
最低0.47元/天 解锁文章
_Magic
关注
  • 2
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
kmeans.rar_Kmeans_kmeans检索_聚类分类
07-15
kmeans聚类，多数据检索分类，处理原始数据
机器学习（九）-k-means算法及优化和Python
Blessy_Zhu的博客
05-29 1万+
K-means算法是很典型的基于距离的聚类算法，采用距离 作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。该算法认为簇是由距离靠近的对象组成的，因此把得到紧凑且独立的簇作为最终目标。 k-means算法特点在于：同一聚类的簇内的对象相似度较高；而不同聚类的簇内的对象相似度较小
K-means聚类最优k值的选取
热门推荐
qq_15738501的博客
01-11 8万+
       最近做了一个数据挖掘的项目，挖掘过程中用到了K-means聚类方法，但是由于根据行业经验确定的聚类数过多并且并不一定是我们获取到数据的真实聚类数，所以，我们希望能从数据自身出发去确定真实的聚类数，也就是对数据而言的最佳聚类数。为此，我查阅了大量资料和博客资源，总结出主流的确定聚类数k的方法有以下两类。1.手肘法1.1 理论手肘法的核心指标是SSE(sum of the squared...
k-means伪代码
阿亮的专栏
01-06 1万+
1、初始化k个簇中心。 2、更新所有样本点簇归属：样本点到哪个簇中心点最近就属于哪个簇。 3、重新计算每个簇的中心点（直到簇中心点不再变化或达到更新最大次数） #k-means伪代码 import numpy as np import copy #计算欧氏距离 def get_distance(X,Y): return np.sum((X-Y)**2)**0.5 def calc_mea...
6.6 二分 K-Means 算法-机器学习笔记-斯坦福吴恩达教授
赵继超的笔记
03-27 489
二分 K-Means 算法 该算法补充自 《机器学习实战》 一书 常规的 K-Means 算法的误差通常只能收敛到局部最小，在此，引入一种称为二分 K-Means（bisecting kmeans）的算法，相较于常规的 K-Means，二分 K-Means 不急于一来就随机 KKK 个聚类中心，而是首先把所有点归为一个簇，然后将该簇一分为二。计算各个所得簇的失真函数（即误差），选择误差最大的簇...
机器学习3 kmeans找最优K的2种方法
dd112474的博客
08-24 480
思想：最终是要找簇内误差平方和inertia最小，以及对应的k，那可以先给最后得到的min_inertia赋一个很大的值，每找到一个更小的就进行替换。先给最后得到的min_inertia赋一个很大的值，k初始值为0用来储存最后得到的n_clusters。判断inertia大小，将min_inertia替换成小的,同时把此时的i赋值给k。1，用.idxmin（） 返回在请求轴上第一次出现最小值的索引。可以将字典生成一个一维数组更直观 .series()注意这俩返回的索引不一样，但是对应值是一样的。
【机器学习】Kmeans聚类（含代码）
littlemichelle
03-06 2万+
KMeans算法思想
kmeans分类.zip
07-04
MATLAB kmeans分类
biKmeans 二分Kmeans聚类算法 Python
11-11
Python biKmeans 二分聚类算法
kmeans图像分类
06-07
利用matlab实现的k均值算法，对不同主体的图片进行分类，内含图片资源，分类为人，建筑，车，恐龙，大象和海滩风景。
Kmeans聚类 样本+可视化源码
04-19
通过Kmeans的方法对故障类型进行一个简单的聚类，由于不确定数据可以划分的组数，利用Calinski-Harabasz指数判断数据的最佳分类组数，并对最终的结果进行简单的可视化
聚类算法 - K-Means、二分K-Means、K-Means 、K-Means||、Canopy、Mini Batch K-Means算法
qfikh的博客
04-14 2543
K-Means 系列：K-Means，二分K-Means，K-Means++，K-Meansll，canopy算法，MiniBatchK-Means算法。 K-Means系列聚类算法原理：https://www.cnblogs.com/pinard/p/6164214.html 用scikit-learn学习K-Means聚类：https://www.cnblogs.com/pinar...
K-Means 总结
大数据流浪法师的学习笔记与分享
07-17 1694
http://shabal.in/visuals/kmeans/3.html https://www.naftaliharris.com/blog/visualizing-k-means-clustering/ 计算步骤 选择 K 个点作为初始聚类中心 计算其他的点到中心点的距离, 进行聚类, 使用欧式距离 重新计算每个聚类的中心点, 再次聚类 直到中心点不再变化, 或者达到迭代次数 2.2.2.快速体验 2.2.2.1.数据集 IRIS数据集由Fisher在1936年整理的一个经典数据集，在统
机器学习算法-KMeans聚类算法解析及伪代码实现。
徐小狗不是狗。
01-20 2万+
机器学习算法-KMeans聚类算法解析及伪代码实现。 徐小狗在文末附上了几条大神们关于KMeans聚类算法的博文，欲详细研究请前往浏览~ 作为初学者，许多地方可能笨拙或有误，希望有大神看到后给予优化和指点！~ Why - KMeans：现实中的聚类分析问题 - 总统大选  假设 M 国又开始全民选举总统了，目前 Mr.OBM 的投票率为48%(投票数占所有选民人数的百分比)，而 M
K-means伪代码
dfd4578575的博客
09-29 2513
K-means算法思想： 通过迭代的方式，让每次簇中心的选择都是让样本数据到簇中心点的距离最小化的一个过程，直到簇中心点不再变化。 伪代码： 1.初始化K个簇中心； 2.更新所有样本点簇归属：样本点到哪个簇中心点最近就属于哪个簇； 3.重新计算每个簇的中心点(直到簇中心点不再变化或达到更新最大次数)； ...
K-means算法优化（二分K-means算法）
Microstrong
03-18 2667
关注微信公众号【Microstrong】,我写过四年Android代码，了解前端、熟悉后台，现在研究方向是机器学习、深度学习！一起来学习，一起来进步，一起来交流吧！本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s?__biz=MzI5NDMzMjY1MA==&amp;mid=2247484014&amp;idx=1&amp;sn=516cdf9ec7730...
k-means算法伪代码python_机器学习算法-KMeans聚类算法解析及伪代码实现。
weixin_42135773的博客
01-15 3296
机器学习算法-KMeans聚类算法解析及伪代码实现。徐小狗在文末附上了几条大神们关于KMeans聚类算法的博文，欲详细研究请前往浏览~作为初学者，许多地方可能笨拙或有误，希望有大神看到后给予优化和指点！~Why – KMeans：现实中的聚类分析问题 – 总统大选假设 M 国又开始全民选举总统了，目前 Mr.OBM 的投票率为48%(投票数占所有选民人数的百分比)，而 Mr.MKN 的为47%，而...
【机器学习】二分K-Means的原理以及代码实现
weixin_41861700的博客
06-29 1453
Bisecting K-Means什么是二分K-Means二分K-Means原理算法优缺点代码实现 K-means博文点击此处 什么是二分K-Means 二分K-Means其实就是基于K-Means改进的算法，他的主要核心还是在于K-Means算法中，只不过它的算法思想是先从一个总簇，不断通过二分裂，直到分裂成k个簇则停止。在K-Means里博文当中，我们知道经过算法后，返回了2个参数： centroids： 返回的是k质心的坐标矩阵 clusterAssment 返回的是m*2的簇矩阵，其中m是data
k-means算法伪代码python_K-Means K均值聚类 python代码实现
weixin_26765287的博客
01-27 1105
1. 初始化类中心，从样本中随机选取K个点作为初始的聚类中心点def kMeansInitCentroids(X,K):m = X.shape[0]m_arr = np.arange(0,m) # 生成0-m-1centroids = np.zeros((K,X.shape[1]))np.random.shuffle(m_arr) # 打乱m_arr顺序rand_indices ...
二分kmeans的matlab代码怎么写
最新发布
03-12
我可以回答这个问题。二分kmeans的matlab代码可以通过以下步骤实现： 1. 首先，将数据集随机分成k个簇。 2. 对于每个簇，计算其质心。 3. 对于每个数据点，计算其到每个簇质心的距离，并将其分配到距离最近的簇中。 4. 对于每个簇，重新计算其质心。 5. 重复步骤3和4，直到质心不再发生变化或达到最大迭代次数。 以下是一个简单的二分kmeans的matlab代码示例： function [idx, C] = binary_kmeans(X, k, max_iter) % X: 数据集 % k: 簇的数量 % max_iter: 最大迭代次数 % 随机初始化簇 C = X(randperm(size(X,1),k),:); for i = 1:max_iter % 计算每个数据点到每个簇质心的距离 D = pdist2(X, C); % 将每个数据点分配到距离最近的簇中 [~, idx] = min(D, [], 2); % 对于每个簇，重新计算其质心 for j = 1:k C(j,:) = mean(X(idx==j,:), 1); end end end 注意，这只是一个简单的示例代码，实际应用中可能需要进行更多的优化和改进。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值