机器学习笔记 ---- K-Means Algorithm

已于 2022-05-09 20:48:52 修改
阅读量212 收藏
点赞数
分类专栏： Machine Learning 文章标签： 机器学习 kmeans 概率论
于 2018-09-02 12:57:18 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_35406909/article/details/82291094
版权

1. K-Means Algorithm

  • Randomly choose x x x points as centroids, i-th is μ i \mu_i μi​
  • Divide all points into x x x groups by determining the minimum distance they have from all x x x centroids
  • Change the centroids into the average of each groups
  • Repeat until all centroids do not change

2. Obtimization Objective of K-Means

Let c ( i ) c_{(i)} c(i)​ denote the group i-th point belongs to, then our task is

m i n c , μ J ( c , μ ) = ∑ ( x ( i ) − μ c ( i ) ) 2 min_{c,\mu} \quad J(c,\mu)=\sum (x^{(i)}-\mu_{c_{(i)}})^2 minc,μ​J(c,μ)=∑(x(i)−μc(i)​​)2

3. Random Initialization

Randomly pick k k k examples in which k k k is the number of centroids
May be stuck in local optima: Init and Run K-Means for many times, pick the solution with lowest J J J

4. Choose the Number of Clusters

Elbow method / Depending on later purpose

VampireWeekend
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
K-Means Algorithm（K-均值算法）
冯小妞成长记
04-22 3589
K-Means algorithms(K-均值)K-means算是一个很简单的聚类算法，而聚类与决策树、SVM等不同，是一种无监督的学习。
K-Means Algorithm
道路，愿景与目标。
05-15 2490
K-Means算法是一种聚类（Clustering）算法，属于非监督学习算法(Unserpvised Learning)的一种，它可以根据数据的分布特典自动对数据进行分类。应用的场景包括市场划分(Market Segmentation), 分割服务器集群，社交网络集群分割，等等。 算法步骤 K-Means的算法步骤可以如下图所列： 其中第一个for循环叫Cluster Assignm...
K-means Algorithm
weixin_30488085的博客
11-15 76
在监督学习中，有标签信息协助机器学习同类样本之间存在的共性，在预测时只需判定给定样本与哪个类别的训练样本最相似即可。在非监督学习中，不再有标签信息的指导，遇到一维或二维数据的划分问题，人用肉眼就很容易完成，可机器就傻眼了，图(1)描述得很形象。 但处理高维度的数据，人脑也无能为力了，最终还是得设计算法让机器来完成。如何将所有样本分成若干个类簇(cluster)，并且每个类簇中的样本具有更高的...
k-means algorithm
prison break rabbit
03-03 492
来自：http://zipperary.com/2013/06/10/k-means-algorithm/ k-means algorithm 最近在学习『机器学习』这门课，使用的斯坦福大学Andrew Ng在Coursera的在线课程。机器学习主要包括有监督学习和无监督学习。我的学习进度到了后者。今天学习的是无监督学习中最常见、最普遍、最基础的一类问题——clustering
K-Means聚类算法python实现版本
11-11
k均值聚类算法（k-means clustering algorithm）是一种迭代求解的聚类分析算法，其步骤是，预将数据分为K组，则随机选取K个对象作为初始的聚类中心，然后计算每个对象与各个种子聚类中心之间的距离，把每个对象分配...
kd树数据结构实现k-means聚类算法加速
01-14
主要的方法就是，将数据存储在kd树这种空间数据结构中，树的思想...最后感谢Tapas Kanungo等的论文《An Efficient k-Means Clustering Algorithm:Analysis and Implementation》提供的算法思路和证明。实现代码见附件。
The k-means clustering algorithm
04-06
The k-means clustering algorithm ----by NG
K-Means-Algorithm
05-21
K-Means算法是一种广泛应用的无监督机器学习方法，用于数据聚类。它通过迭代将数据分配到不同的簇（或类别）中，使得同一簇内的数据点彼此相似，而不同簇之间的数据点相异。在Java中实现K-Means算法，我们可以遵循...
Enhanced k-Means Clustering Algorithm for Malaria Image.pdf
03-23
Enhanced k-Means Clustering Algorithm for Malaria Image
Kmeans Algorithm
SN的博客
03-07 374
[Idx,C,sumD,D]=Kmeans(data,3,’dist’,’sqEuclidean’,’rep’,4) 等号右边： Kmeans：K-均值聚类 data是你自己的输入数据 3 是你要聚成3类 dist sqEuclidean 这2个参数，表示距离函数为欧式距离。 ’rep’,4 聚类重复次数4次。因为要反复算直到选出最好的结果，至多反复算4次 等号左边： Idx 是你聚类的标号 C...
Clustering - K-means algorithm
王彩旗的技术博客
10-20 734
In the clustering problem, we are given an unlabeled data set and we would like to have an algorithm automatically group the data into coherent subsets or into coherent clusters for us. The K-means algorithm is by the the most popular, by far the most wide
K均值算法（K-means Algorithm）
Ennis_Tongji的博客
02-15 213
K-means is considered an unsupervised learning method because the algorithm is not told what the correct clusters are; it must infer the clusters from the data alone. The k-means algorithm begins by choosing k centroids at random. Then, it alternates betwe
[算法理解]k-means algorithm
ZY_miao的博客
11-13 534
文章目录前言一、k-means算法介绍二、算法流程（引自西瓜书）三、算法实现（python）总结 前言 算法名：k-means algorithm 本文作者：XMU_MIAO 日期：2020/11/12 一、k-means算法介绍   k-means算法是一种无监督聚类算法，其应用广泛。首先根据要划分的类数kkk随机选择kkk个样本作为均值向量（每个均值向量代表了一个类别），而后计算每一个样本点与这些均值向量的距离，并根据最近的均值向量将样本点进行归类，再将均值向量更新并循环上述步骤，直到均值向量不再更
K-均值聚类算法(K-means algorithm)
大坡3D软件开发
03-06 4690
k-means clustering is a method of vector quantization, originally from signal processing, that is popular for cluster analysis in data mining. k-means clustering aims to partition n observations into
K-均值算法 (K-Means Algorithm)
wf4csdn的博客
08-09 227
又名K-均值聚类算法 (K-Means Clustering Algorithm)，非监督式学习常用的聚类算法。1. 实现给定： - 训练样本{x(1),x(2),...,x(m)}, x(i)∈Rn\{x^{(1)},x^{(2)},...,x^{(m)}\},\ x^{(i)}\in\mathbb R^n - 分类数目KK随机初始化KK个聚类中心 (Culster Centroids) μ1
K-means Algorithm 聚类算法
热门推荐
GarfieldEr007的专栏
05-22 1万+
在监督学习中，有标签信息协助机器学习同类样本之间存在的共性，在预测时只需判定给定样本与哪个类别的训练样本最相似即可。在非监督学习中，不再有标签信息的指导，遇到一维或二维数据的划分问题，人用肉眼就很容易完成，可机器就傻眼了，图(1)描述得很形象。 但处理高维度的数据，人脑也无能为力了，最终还是得设计算法让机器来完成。如何将所有样本分成若干个类簇(cluster)，并且每个类簇中的样本具
机器学习（Machine learning）9——K-means algorithm（k-means聚类算法）
qq_41116319的博客
06-09 257
机器学习（Machine learning）——K-means algorithm（k-means聚类算法）
K-means algorithm原理及使用
Xyc19930930的博客
09-03 4187
K-means clustering algorithm，K-means聚类算法，它是无监督聚类的一种，可以用距离度量来将样本集分成K个类。 1. 关于K-means algorithm     假如有如下的样本分布情况（左图），那么对这些样本进行聚类，我们人为做会怎么做（右图）。     那么如果，样本的分布情况是这样的：          人为怎么来进行聚类呢，或者出现样本中
K-means algorithm
最新发布
12-19
K-means算法是一种无监督学习的聚类算法，通过数据之间的内在关系把样本划分为若干类别，使得同类别样本之间的相似度高，不同类别样本之间的样本相似度低。 K-means算法的步骤如下： 1. 初始化：随机选择k个点作为...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值