机器学习——K-近邻算法

K-近邻(K-Nearest Neighbor, KNN)是一种经典的有监督学习方法,用于分类和回归问题。它基于懒惰学习,没有显式的学习过程。算法主要依赖k值选择、距离度量和分类决策规则。KNN算法流程包括数据收集、准备、分析,但不需要训练。Python实现KNN可以帮助理解其工作原理。" 101622117,8655068,Redis分布式集群详解:优势与特性分析,"['数据库', 'NoSQL', '缓存', '高性能', '数据存储']
摘要由CSDN通过智能技术生成

机器学习——K-近邻算法

简单地说,k-近邻算法采用测量不同特征值之间的距离方法进行分类
一、K-近邻算法
K近邻(K-Nearest Neighbor, KNN)是一种最经典和最简单的有监督学习方法之一。K-近邻算法是最简单的分类器,没有显式的学习过程或训练过程,是懒惰学习(Lazy Learning)。当对数据的分布只有很少或者没有任何先验知识时,K 近邻算法是一个不错的选择。

​ K近邻算法既能够用来解决分类问题,也能够用来解决回归问题。该方法有着非常简单的原理:当对测试样本进行分类时,首先通过扫描训练样本集,找到与该测试样本最相似的个训练样本,根据这个样本的类别进行投票确定测试样本的类别。也可以通过个样本与测试样本的相似程度进行加权投票。如果需要以测试样本对应每类的概率的形式输出,可以通过个样本中不同类别的样本数量分布来进行估计。
1、三个基本要素
k 值的选择、距离度量和分类决策规则
2、在这里插入图片描述

要确定绿圆属于哪个类别,如果k=3,在其最近的3个样本中红色三角形数量最多,绿圆属于红色三角形类别,如果k=5,在其最近的5个样本中蓝色矩形数量最多,绿圆属于蓝色矩形类别,可见k的选择很重要
在这里插入图片描述

同时,KNN通过依据k个对象中占优的类别进行决策,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值