【聚类/回归】k-means 原理和python实现

已于 2024-11-04 14:26:58 修改
阅读量391 收藏
点赞数
分类专栏： 机器学习 文章标签： 聚类 数据挖掘 机器学习
于 2022-05-06 20:12:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41413211/article/details/124517281
版权
机器学习 专栏收录该内容
30 篇文章 9 订阅 ¥15.90 ¥99.00
订阅专栏
本文介绍了k-means聚类算法的基本原理，包括距离计算、与k近邻的区别、算法流程。讨论了如何确定合适的k值，如使用肘部法则，并探讨了k-means在处理线性与非线性数据的效果。此外，文章还提供了python实现k-means的参考及初始点选取的优缺点分析。
摘要由CSDN通过智能技术生成

目录

原理 

距离计算

和k近邻的区别：

算法过程

python实现

在线性和非线性数据上的效果

面试问答

如何确定k？

参考资料

sklearn实现

原理 

随机选取K个对象作为初始的聚类中心，然后计算每个对象与各个种子聚类中心之间的距离，把每个对象分配给距离它最近的聚类中心

k-means是原型聚类，用原型向量刻画聚类结构

距离计算

欧式距离，聚类-原理_坠金的博客-CSDN博客

根据这个原理，kmeans无法区分非线性数据；且若采用的是欧式距离&#x

了解本专栏 订阅专栏 解锁全文
坠金
关注
专栏目录
订阅专栏
[Python从零到壹] 十三.机器学习之聚类算法四万字总结全网首发（K-Means、BIRCH、树状聚类、MeanShift）
杨秀璋的专栏
07-06 1万+
欢迎大家来到“Python从零到壹”，在这里我将分享约200篇Python系列文章，带大家一起去学习和玩耍，看看Python这个有趣的世界。所有文章都将结合案例、代码和作者的经验讲解，真心想把自己近十年的编程经验分享给大家，希望对您有所帮助，文章中不足之处也请海涵。Python系列整体框架包括基础语法10篇、网络爬虫30篇、可视化分析10篇、机器学习20篇、大数据分析20篇、图像识别30篇、人工智能40篇、Python安全20篇、其他技巧10篇。您的关注、点赞和转发就是对秀璋最大的支持，知识无价人有情，希望
【聚类/回归】高斯混合聚类EM-GMM的原理和python实现
qq_41413211的博客
05-09 1391
首先介绍作为模型的GMM原理，EM算法原理（用来迭代求解模型参数的）见另一篇博客 原理 先验概率： 事情还没有发生，根据以往经验（已知数据分布）来判断事情发生的概率 扔一个硬币，在扔之前就知道正面向上的概率为0.5 后验概率 事情已经发生了，判断事情的发生是由哪一种原因引起的 P( 你在东南大学 | 同学都是男的)，意为，已经发现身边同学都是男的，原因是你属于东大学生这个簇的可能性是 将后验概率用于聚类 假设一开始我们猜测有3个簇，那么对每个样本可以计算得到3个后验概率 ..
一文读懂K-Means原理与Python实现
极限突破者的博客
06-20 1万+
在本文中，你将学习到K-means算法的数学原理，作者会以尼日利亚音乐数据集为案例。带你了解了如何通过可视化的方式发现数据中潜在的特征。最后对训练好的K-means模型进行评估。
【无标题】RFM客户聚类---------Python实现K-mean聚类，以及与EM聚类进行对比
weixin_54044641的博客
04-16 1018
本次主要是通过对原始的客户购买记录数据进行数据清洗与数据预处理，提取数据构建RFM模型，然后对客户进行聚类，最后模型应用，将客户分成不同的客户群。实现目标有三：1.借助客户数据，对客户进行分类2.对不同的客户类别进行特征分析，比较不同类客户的客户价值3.对不同价值的客户类别提供个性化服务，制定相应的销售策略原始数据读者可通过点击该此处来获取。
机器学习 | 聚类算法（K-means）
weixin_63292027的博客
12-24 1319
本文章主要讲解了机器学习中的聚类分析（K-means）的基本原理和概念，以及评估指标等。
【机器学习】聚类算法中的 K-means 算法及其原理
m0_51816252的博客
08-02 6692
聚类（ clustering ）是一种典型的“无监督学习”，是把物理对象或抽象对象的集合分组为由彼此类似的对象组成的多个类的分析过程。K-means 算法是就是比较经典的聚类算法，使用较多，本文主要讲解了什么是K-means 算法，及其原理。......
Python sklearn实现K-means鸢尾花聚类
小嗷犬的博客
10-27 3692
使用开源数据集“鸢尾花数据集”。包含3种类型数据集，共150条数据；数据包含4项特征，花萼长度、花萼宽度、花瓣长度、花瓣宽度；将80%的数据划分为训练集，20%划分为测试集。
python聚类分析sklearn_用scikit-learn学习K-Means聚类
weixin_39801158的博客
12-21 881
在K-Means聚类算法原理中，我们对K-Means的原理做了总结，本文我们就来讨论用scikit-learn来学习K-Means聚类。重点讲述如何选择合适的k值。1. K-Means类概述在scikit-learn中，包括两个K-Means的算法，一个是传统的K-Means算法，对应的类是KMeans。另一个是基于采样的Mini Batch K-Means算法，对应的类是MiniBatchKMe...
K-means聚类算法原理与实现
`or 1 or 不正经の泡泡
01-02 1311
文章目录无监督学习原理解析选择中心点聚类划分演示纯数学叨逼叨算法流程优缺点案例（lnstacart市场篮子分析） 无监督学习 首先这类算法是属于典型的无监督学习算法，比如 PCA 将维等等。这类算法在先前的机器学习文章过程中有提到，但是我自己没有去具体分析它的实现，只是简单地去使用sklearn去做一些应用去了。那么要先讲清楚K-means那么必然是要先搞清楚无监督的意思，我这里将使用最简单的语言来尽可能地去描述复杂算法（虽然这个K-means其实也不复杂，本质上其实还是一个演化算法，难的其实我认为还是对现
一文速学数模-聚类模型(一)K-means聚类算法详解+Python代码实例
热门推荐
master_hunter的博客
08-07 1万+
博主共参与了数十场数学建模，其中对于未给出标签的数据进行分析时一般第一个想到的就是聚类算法。聚类算法分析又称群分析，它是研究（样品或指标）分类问题的一种统计分析方法，同时也是数据挖掘的一个重要算法。聚类（Cluster）分析是由若干模式（Pattern）组成的，通常，模式是一个度量（Measurement）的向量，或者是多维空间中的一个点。聚类分析以相似性为基础，在一个聚类中的模式之间比不在同一聚类中的模式之间具有更多的相似性。......
如何用聚类模型(k-means)做数据分析？
luoluo96321的博客
12-16 6359
k-means属于无监督学习算法，无监督算法的内涵是观察无标签数据集自动发现隐藏结构和层次，在无标签数据中寻找隐藏规律。聚类模型在数据分析当中的应用：既可以作为一个单独过程，用于寻找数...
基于C++的k-均值聚类机器学习算法（不调包）
修行之路
11-09 929
基于C++的k-均值聚类机器学习算法（不调包）
数据挖掘（九）
快乐江小鱼的博客
11-10 733
支持线上学习的算法可以先用一条或少量数据进行训练，随着更多新数据的添加，更新模型。当我们尝试用程序获取里面的实际内容时，可能遇到各种困难，比如有很多逻辑是在后台运行的，调用JS库，应用样式表，用AJAX加载广告，在侧边栏增加很多内容等，这些功能增加了网站的复杂程度，增加了自动采集信息的难度。k-means中的k表示寻找多少个质心点，同时也是算法将会找到的簇的数量。已知目标类别的学习任务，叫做监督学习。不知道类别的情况下进行数据挖掘，这叫做无监督学习，偏重于探索、发现隐藏在数据里的信息，而不是用模型来分类。
数据挖掘在金融交易中的应用：民锋科技的智能化布局
2405_87249521的博客
11-07 394
未来，随着数据挖掘技术的发展和应用领域的拓展，民锋将持续推动金融行业的智能化创新，助力投资者在动态市场中获取优势。民锋的数据挖掘系统可以识别市场中的特定模式。例如，通过分析价格、交易量等指标，系统可以捕捉短期波动趋势，帮助投资者快速判断市场的上涨或下跌趋势，获取更具前瞻性的市场信息。民锋通过数据挖掘技术构建了智能推荐系统，能根据投资者的历史交易行为和市场数据，提供个性化的交易建议。系统通过多层次数据的实时监控，在市场出现波动异常时自动触发风险预警，帮助投资者提前调整投资策略，以规避潜在的市场风险。
数据挖掘（十）
快乐江小鱼的博客
11-10 920
作为图像数据来源，它含有6万张32像素见方的图像，有10种类型，每个图像都有一个RGB值。这个数据集已经分为训练集和测试集两部分，有5万张训练图像和1万张测试图片。每种类型含有1万张图片。数据集有airplane、automobile、bird、cat、deer、dog、frog、horse、ship和truck十种类型。对于去欸的那个图像中的物体，我们使用像素值作为神经网络的输入值，自动找到有用的像素组合，形成更高层级的特征，然后将其用于实际的分类。我们构建一个系统，接收图像，给出图像里面使什么物体。
机器学习与数据挖掘_使用梯度下降法训练线性回归模型
TengMMVP的博客
11-07 867
本次实验通过使用梯度下降法训练线性回归模型，实现了单变量线性回归的训练与预测。实验中，我们成功编写了基于梯度下降算法的代码，并通过图形展示了数据的分布情况及模型的拟合效果。在实验过程中，模型的权重参数和偏置参数通过多次迭代逐步更新，梯度下降法有效地减少了损失函数值。最终，模型收敛到了一个较好的参数组合，使得拟合曲线能够较好地反映数据的趋势。此外，通过绘制损失函数的变化图，我们直观地看到了随着迭代次数的增加，损失值不断下降的过程，验证了梯度下降算法的收敛性。
机器学习—矩阵乘法
yn3535_的博客
11-06 553
让我们来看看向量矩阵乘法，也就是当你把一个向量乘以一个矩阵，又得到一个向量，列向量a转置后得到行向量a，所以与其把这看作是一个2×1的矩阵，转置后就变成了1×2的矩阵，现在用这四个元素创建一个2×2的矩阵w，如果你想计算Z，Z=a转置W，结果z是一个2×1的矩阵，计算z的第一个值，我们要做一个a转置乘w1，所以要计算z的第一个元素，最终得到(1*3)+(2*4),然后计算第二个元素，现在将转置乘w2，，所以计算第二个元素，最终得到(1*5)+(2*6)。如何在向量之间取点积？
【线性代数】知识合集
最新发布
hiliang521的博客
11-10 335
【线性代数】知识合集
机器学习—为什么我们需要激活函数
yn3535_的博客
11-09 396
用一个更简单的例子来说明这一点，看一个神经网络的例子，其中输入x只是一个数字，有一个隐藏单位，参数w和b，输出一个，这里只是一个数字a[1]，然后第二层是输出层，它也只有一个输出单元，参数为w2 b2，输出一个a2，也就是一个数字，只是一个标量，它是神经网络f(x)的输出，如果用线性激活函数，g(z)=z，将x=a1计算，神经网络将使用a1=g(w)*x+b1，具体替换如下图所示，所以w只是一个线性函数而不是使用一个隐藏层和一个输出层的神经网络，还不如用线性回归模型，如果熟悉线性代数，
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

坠金

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值