KNN和K-Means的区别

最新推荐文章于 2024-07-12 03:36:43 发布
最新推荐文章于 2024-07-12 03:36:43 发布
阅读量190 收藏
点赞数
文章标签： 数据库 数据结构与算法 人工智能
原文链接：http://www.cnblogs.com/zourui4271/p/7501063.html
版权

KNN和K-Means的区别

 

KNN

K-Means

1.KNN是分类算法 

 

2.监督学习 

3.喂给它的数据集是带label的数据，已经是完全正确的数据

1.K-Means是聚类算法 

 

2.非监督学习 

3.喂给它的数据集是无label的数据，是杂乱无章的，经过聚类后才变得有点顺序，先无序，后有序

没有明显的前期训练过程，属于memory-based learning有明显的前期训练过程
K的含义：来了一个样本x，要给它分类，即求出它的y，就从数据集中，在x附近找离它最近的K个数据点，这K个数据点，类别c占的个数最多，就把x的label设为cK的含义：K是人工固定好的数字，假设数据集合可以分为K个簇，由于是依靠人工定好，需要一点先验知识
  
相似点：都包含这样的过程，给定一个点，在数据集中找离它最近的点。即二者都用到了NN(Nears Neighbor)算法，一般用KD树来实现NN。

转载于:https://www.cnblogs.com/zourui4271/p/7501063.html

weixin_30376323
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
k-means和knn的区别
Saphon的博客
08-03 3353
k-means是聚类（无监督学习），先定好k个类别，然后随机确定k个坐标（聚类中心），各点离哪个坐标近就算做哪类，然后不停算平均值求出中心，直到稳定，聚类完成。有训练的过程。 k-means++使初始的聚类中心坐标相距尽可能远。 knn = k nearest neighbor是分类（监督学习），定好k直接把待分类点周边最近的k个点计数，数量多的那类定为待分类点的类别。无训练的过程。 ...
KNN和kmeans算法的区别
skyllerone的博客
09-20 5213
kmeans和knn
机器学习-KNN和K-Means的区别
burpee的博客
04-12 1145
KNN和K-Means的区别
Kmeans、Kmeans++和KNN算法比较
热门推荐
chlele0105的专栏
10-24 3万+
K-Means介绍        K-means算法是聚类分析中使用最广泛的算法之一。它把n个对象根据他们的属性分为k个聚类以便使得所获得的聚类满足：同一聚类中的对象相似度较高；而不同聚类中的对象相似度较小。其聚类过程可以用下图表示：         如图所示，数据样本用圆点表示，每个簇的中心点用叉叉表示。(a)刚开始时是原始数据，杂乱无章，没有label，看起来都一样，都是绿色的
Kmeans算法与KNN算法的区别
weixin_30263073的博客
07-03 159
最近研究数据挖掘的相关知识，总是搞混一些算法之间的关联，俗话说好记性不如烂笔头，还是记下了以备不时之需。 首先明确一点KNN与Kmeans的算法的区别： 1.KNN算法是分类算法，分类算法肯定是需要有学习语料，然后通过学习语料的学习之后的模板来匹配我们的测试语料集，将测试语料集合进行按照预先学习的语料模板来分类 2Kmeans算法是聚类算法，聚类算法与分类算法最大的区别是聚类算法没有学习语料...
KMeans算法简介以及其与KNN的区别
weixin_44111292的博客
06-16 1万+
KMeans算法是一种无监督的聚类方法，其工作流程如下： (1)在一群无标签的数据中，随机选择k个数据作为簇中心（k是人为选择的） (2)依照某种距离度量，计算除掉这k个数据点的其他数据点到这k个簇中心的距离，将该点划分到离他最近距离的簇中心所属的簇。 (3)计算划分好的簇的质心，使其作为新的簇的中心。 (4)重复(2)到(3)步，直到新的质心与原来的簇的中心相等或者两者的距离小于阈值就停止重新划分 KNN算法是一种监督学习算法，其工作流程如下： (1)当有新的测试样本出现时，计算其到训练集中每个数据点的距
KNN和K-Means傻傻分不清？图解K-Meams算法
哆啦A梦爱学习的博客
07-13 3210
点击上方“码农的后花园”，选择“星标”公众号精选文章，第一时间送达之前讲解了有监督学习分类算法KNN,这期讲解无监督学习聚类算法K-Means(也称K-平均，K-均值)，我们知道KNN和...
KNN和k-means聚类有什么不同?
zy1992As的博客
08-22 461
给定一个新的数据点，KNN会查找最接近它的K个已知数据点，并根据这K个数据点的标签(对于分类)或值(对于回归)来进行预测。·K-means：K-means的目标是将数据点分组成簇，使得每个簇的数据点与该簇内的其他点相似度较高，而与其他簇的数据点相似度较低。它的目标是将数据点划分为K个不同的簇，使得每个簇内的数据点都具有相似性，而不同簇之间的数据点具有较大的差异性。·K-means：K-means是一种无监督学习算法，因为它不需要事先知道数据点的标签或值，而是自动将数据点分组成簇。
(一) KNN和Kmeans分析
qq_23123181的博客
02-18 1160
KNN、Kmeans是常用机器学习算法，但也经常弄混。本文将详细介绍这两种算法含义、实现过程、用途、区别等方面进行详细讲解。 1、KNN 属于监督学习，属于分类学习（需要进行训练）。最简单粗暴就是将预测点与所有点距离计算，然后保存并排序，选出前面K个值看看哪些类别比较多，则预测的点属于哪类。 (1) 流程 对未知类别属性的数据集中的每个点依次执行以下操作： a、计算已知类别数据集中的点与当前点之间距离（曼哈顿距离计算、欧式距离计算) b、按照距离递增次序排序 c、选取与当前点距离最小的k个点（
详解k-means++
qq_42364307的博客
12-20 3万+
一、概述 定义：k-means++是一种为k-means聚类算法选择初始值（或“种子”）的算法。它是NP-hard k-means问题的一种近似算法，它是一种避免标准k-means算法有时发现的较弱聚类的方法。 K-means与K-means++：原始K-means算法最开始随机选取数据集中K个点作为聚类中心，而K-means++按照如下的思想选取K个聚类中心：假设已经选取了n个初始聚类中心(0<n<K)，则在选取第n+1个聚类中心时：距离当前n个聚类中心越远的点会有更高的概率被选为第n+1个聚
聚类算法：Kmeans和Kmeans++算法精讲
路人贾的博客
04-20 6169
一文带你搞懂Kmeans和Kmeans++聚类算法
k-means++和k-means||
铭霏的记事本
08-15 1万+
一、k-means算法缺点: 1、需要提前指定k 2、k-means算法对初始化非常敏感 k-means++主要用来解决第二个缺点 二、k-means++算法原理分析 k-means++算法选择初始聚类中心的基本原则是：初始的聚类中心之间的相互距离要尽可能的远。它选择初始聚类中心的步骤是： （1）从输入的数据点集合中随机选择一个点作为第一个聚类中心； （2
K-means++算法
最新发布
weixin_41134836的博客
07-12 278
K-means++算法是对传统的K-means聚类算法的一种改进，它解决了K-means算法的一个主要缺点——对初始聚类中心选择的敏感性。K-means++通过一种更合理的方式来选择初始聚类中心，使得算法更有可能找到全局最优解，而不是陷入局部最优。K-means++算法流程：随机选择第一个聚类中心：从数据集中随机选择一个样...
机器学习之KNN算法：日撸Java三百行day51-53
.
05-05 2311
一、什么是KNN算法 K近邻（K-Nearest Neighbor, KNN），是一种最简单和最经典的有监督学习算法之一。KNN算法是最简单的分类器，可以应用于分类和回归问题。同时，它也不具备任何显式的学习过程或训练过程，属于懒惰学习（Lazy Learning）。所谓懒惰学习，类似于开卷考试，在已有数据中去找答案。虽然KNN是懒惰学习，但它的算法效果十分出色。 二、KNN算法的基本思想 以iris分类问题为例：将iris的特征数据散布在特征空间中，将每一个分类对象抽象成一个点。找到距离它最近的K
机器学习算法：知道canopy、K-means++、二分K-means、K-medoids的优化原理
黑马程序员官方博客
07-29 1345
对于每一个小批量，通过计算平均值得到更新质心，并把小批量里的数据分配给该质心，随着迭代次数的增加，这些质心的变化是逐渐减小的，直到质心稳定或者达到指定的迭代次数，停止计算。k-medoids只能对小样本起作用，样本大，速度就太慢了，当样本多的时候，少数几个噪音对k-means的质心影响也没有想象中的那么重，所以k-means的应用明显比k-medoids多。kernelk-means实际上，就是将每个样本进行一个投射到高维空间的处理，然后再将处理后的数据使用普通的k-means算法思想进行聚类。...
kmeans++
weixin_57764076的博客
11-07 856
k-means++算法仅仅只是在初始化簇中心的方式上做了改进，其它地方同聚类算法一样。% data是待分类的数据,尺寸为 (dim*N)，dim代表每个样本的维数，N代表样本个数。%计算N个样本与K个聚类之间的距离，行代表聚类，列代表样本。% K 是设定的聚类数量，即把N个样本分成K类，每一类内部的差别小，各类之间的差别大。%所有的K个初始聚类中心已经确定，下面按照传统的kmeans算法执行。%首先，确定K个初始聚类中心，这些聚类中心均来源于原始的N个样本。
kmeans聚类算法_聚类算法kmeans及kmeans++介绍(含python实现)
weixin_39911916的博客
11-18 849
1、kmeanskmeans, k-均值聚类算法，能够实现发现数据集的 k 个簇的算法，每个簇通过其质心来描述。kmeans步骤： （1）随机找 k 个点作为质心（种子）； （2）计算其他点到这 k 个种子的距离，选择最近的那个作为该点的类别； （3）更新各类的质心，迭代到质心的不变为止。Q:如何选择 k 值？A: 根据 k 取不同的值时，模型性能曲线图。 横坐标是聚类数目k，纵坐标是各点到距离...
【机器学习核心总结】什么是KNN( K近邻算法)
RuanJian_GC的博客
07-06 922
虽然名字中有NN，KNN并不是哪种神经网络，它全名：K近邻算法，是机器学习中常用的分类算法。物以类聚，人以群分。KNN的基础思想很简单，要判断一个新数据的类别，就看它的邻居都是谁。假设我们的任务是分类水果，虽然不知道新来的水果是梨还是苹果，但通过观察它的大小和颜色，我们找到了它在坐标系中的位置，再看看已经确定的苹果和梨都在哪，如果附近的苹果多，我们就认为它是苹果，反之认为它是梨。KNN中的K指的是K个邻居，K=3就是通过距离最近的3个样本，来判断新数据的类别。
knn和k-means的区别
07-28
KNN（K-Nearest Neighbor）和K-Means是两种不同的机器学习算法，它们在问题类型、应用场景和算法过程上有所区别。 首先，KNN是一种监督学习算法，用于解决分类问题。它通过计算未知样本与最近的K个已知样本之间的距离，来确定未知样本所属的类别。KNN需要有标签的训练数据来进行分类。 而K-Means是一种非监督学习算法，用于解决聚类问题。它通过人为选定的K个聚类中心，计算样本与聚类中心之间的距离，将样本分配到离其最近的聚类中心所代表的类簇中。然后根据类簇内的所有点重新计算类簇的中心点，迭代进行分配和更新，直至类簇中心点不再变化或达到指定的迭代次数。 此外，KNN没有明显的训练过程，而K-Means需要迭代计算类簇中心点。KNN是根据最近的K个样本来判断未知样本的类别，而K-Means是根据样本与聚类中心的距离来进行聚类。 总结来说，KNN是一种用于分类问题的监督学习算法，而K-Means是一种用于聚类问题的非监督学习算法。它们在问题类型、应用场景和算法过程上有所区别。 #### 引用[.reference_title] - *1* [KNN（K近邻）和K-means（聚类）的区别](https://blog.csdn.net/weixin_43804047/article/details/128424463)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [面试回答：KNN和K-Means的区别？](https://blog.csdn.net/qq_29168809/article/details/104221199)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [KNN和kmeans算法的区别](https://blog.csdn.net/skyllerone/article/details/126954351)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值