KNN(分类)算法及案例

最新推荐文章于 2024-04-21 17:28:39 发布
VIP文章 最新推荐文章于 2024-04-21 17:28:39 发布
阅读量3.3w 收藏 160
点赞数 25
分类专栏： 数据挖掘 文章标签： 数据挖掘 算法 KNN 分类 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41897403/article/details/82531129
版权

1 背景

KNN算法采用测量不同特征值之间的距离方法进来分类，思想类似成语近朱者赤近墨者黑。

1.1 KNN流程

最常用的度量距离方法是欧式距离，即计算测试集与待预测数据差值的平方和开方(1)。若多维度数据数值范围差异较大，需要先对所有数据进行标准化(2)或归一化(3)处理.

                                             d = \sqrt{(q_1-p_1)^2+(q_2-p_2)^2+ \cdots +(q_n-p_n)^2}                                                         ------(1)

                                             z = \frac{x - \mu}{\varrho}                                                                                                                                 ------(2)

最低0.47元/天 解锁文章
data_xzh
关注
  • 25
    点赞
  • 踩
  • 160
    收藏
    觉得还不错? 一键收藏
  • 16
    评论
专栏目录
KNN分类算法例子
04-22
NULL 博文链接：https://zy3381.iteye.com/blog/1937880
k最近邻算法——电影分类及案例详解
ZhShy
06-12 1933
如图3-7所示，若将国际象棋棋盘放在二维直角坐标系中，格子的边长定义为1，坐标的x轴及y轴和棋盘方格平行，原点恰落在某一格的中心点，则王从一个位置走到其他位置需要的步数恰为二个位置的切比雪夫距离，因此切比雪夫距离也称为棋盘距离。关于这里的距离度量，这个电影分类的例子有2个特征，也就是2维的，可以使用我们高中学过的两点距离公式（两点距离公式其实就是欧氏距离在二维空间上的公式，也就是欧氏距离n的值为2的情况，欧氏距离也称为欧几里德距离）来计算距离，如图3-3所示。对数据进行归一化，避免量纲对计算距离的影响。
机器学习————KNN算法
m0_73044708的博客
03-23 602
鸢尾花数据集共收集了三类鸢尾花，即Setosa鸢尾花、Versicolour鸢尾花和Virginica鸢尾花，包括4个属性，分别为花萼的长、花萼的宽、花瓣的长和花瓣的宽。每个类别50个样本。读取数据集文件中的数据到列表中，因为数据集中单个数据特征是以,分隔开，所以按,分隔为一个样本数据再存到数组data_temp中# 初始化数据集f = open(adder) # 打开数据文件文件lines = f.readlines() # 把全部数据文件读到一个列表lines中。
k邻近算法(KNN)实例
lixixi
07-22 4925
文章转载自： https://www.cnblogs.com/angle6-liu/p/10416736.html 一 k近邻算法原理 k近邻算法是一种基本分类和回归方法. 原理:K近邻算法，即是给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例，这K个实例的 多数属于某个类，就把该输入实例分类到这个类中。 如上图所示，有两类不同的样本数据，分别用蓝色的小正方形和红色的小三角形表示，而图正中间的那个绿色的圆所标示的数据则是待分类的数据。这也就是我们的目的，来了一个新的数据点，我
matlab、python：基于KNN算法的电影分类与约会配对
04-30
该代码编写了KNN算法的原理，包括matlab、python的代码，应用在电影分类和约会配对的应用
26.图像分类原理及基于KNN、朴素贝叶斯算法的图像分类案例1
08-03
1.朴素贝叶斯分类算法 2.KNN分类算法 3.SVM分类算法 4.随机森林分类算法 5.神经网络分类算法 2.数据集 3.KNN图像分类 1.朴素贝叶斯分类算
机器学习——KNN算法实例
m0_54703897的博客
11-06 4164
KNN实例，学生家庭情况评定
KNN算法实战
向着光的那方
01-16 4584
最近邻算法（NN)：为了判定未知样本的类别，以全部训练样本作为代表点计算位置样本与所有训练样本的距离，并以最邻近这的类别作为决策位置样本的唯一依据。但是最近邻算法作为分类原则是存下明显缺陷的。 最近邻算法的缺点---对噪声数据过于敏感 为了解决这个额问题，我们可以把位置样本周边的多个样本算在内，扩大与决策的样本量，以避免个别数据直接决定决策结果。 ----K-邻近算法 K近邻算法思想：K-近邻算法是最紧邻算法的一个延伸。基本思路是：选择未知样本一定范围内确定个数的K个样...
机器学习实战---KNN算法的应用小例
热门推荐
Hello_李
05-28 1万+
ok,今天花了一天时间看了小人书(机器学习实战),并且撸到了KNN算法,并完成了一个KNN算法的应用 真的!!!小人书是本特别不错的适合入门ML的书!!!!! 没有繁杂的数学推导过程,先给出概念和实战应用,等对ML有个大致了解后再去啃那些理论书,大量的代码真的很对胃口啊啊啊啊 关与机器学习的这里不废话太多,直接进入正题 KNN算法 那么什么是KNN呢? K近邻算法(KNN...
KNN算法介绍及案例
m0_37940048的博客
08-24 1万+
目录一、KNN介绍K-近邻(K-Nearest Neighboor)算法定义理解K近邻总结KNN⼯作流程二、案例实现 作为机器学习中最基础的算法，KNN在简单分类问题上有其独特的优势，其理念类似于中国的成语“近朱者赤，近墨者黑”，这种将特征数字转化为空间距离判断的方法也是我们认识机器学习世界的第一步。 一、KNN介绍 K-近邻(K-Nearest Neighboor)算法定义 如果⼀个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的⼤多数属于某⼀个类别，则该样本也属于这个类别。 理解K近邻
KNN算法学习笔记+应用实例
Miracle Fan的博客
07-30 1994
KNN（K-Nearest-Neighbors）是一种最为简单的分类算法，它的学习过程，区别于一般的监督学习模型，如贝叶斯、神经网络，利用数据集训练模型之后，得到相应模型的参数，然后再利用这些参数去预测相关数据的类型。在KNN中，每次预测数据类型都是计算预测数据与数据集中的相关数据的（也称为距离），然后通过给定的K参数（超参数）去进行相似度筛选，再由，通过K个相似数据的标签信息，去表决该预测数据属于哪一种类型。也正因为如此，KNN不太适合使用在应用上，因为其每次预测都需要大量计算相似度。...
KNN疾病预测算法Demo
07-24
该资源是利用KNN算法对数据进行分类，以excel文件作为输入，能够针对患者的病症，得出他是否患有该病（准确率在70%左右）。有兴趣的童鞋可以下载看看哦！
KNN.zip_BRZ_knn matlab_knn分类_knn实现_k近邻算法案例
07-13
实现K近邻算法，并提供两个数据集的分类、回归测试案例。
《机器学习》算法实例-KNN算法-海伦约会案例
11-24
【案例描述】 海伦使用约会网站寻找约会对象。经过一段时间之后，她发现曾交往过三种类型的人: 不喜欢的人 魅力一般的人 极具魅力的人 她希望: 工作日与魅力一般的人约会 周末与极具魅力的人约会 不喜欢的人则...
数据挖掘与机器学习
weixin_46659095的博客
04-18 573
【代码】数据挖掘与机器学习。
FloodFill算法简介（用BFS、DFS算法解决）
2301_76197086的博客
04-18 449
FloodFill算法简介
DFS与回溯专题：路径总和问题
孤舟一叶～的博客
04-19 764
对二叉树进行dfs搜索，递归计算每条路径的节点值之和，当某个节点的左右子节点都为空时，说明已经搜索完成某一条路径，将它与目标值进行比较，若相等，则为true。路径恢复： 向上回溯前，需要将当前节点从路径 list 中删除，即执行list.remove(list.size() - 1)。为什么要写list_all.add(new ArrayList(list))，而不是list_all.add(list)？注意：解释里面的sum.add(path)就是list_all.add(list)
力扣136. 只出现一次的数字
LNsupermali的博客
04-18 573
力扣136. 只出现一次的数字
二分答案算法
最新发布
2301_79980806的博客
04-21 947
跟二分查找类似，当我们要找某个量的最值的时候，可以在这个两最小可能的取值，和最大可能的取值之间二分，来快速找到答案check函数为了验证中间值是否符合题目要求，根据是否来决定下一轮区间界限是作曲兼缩小，还是右区间缩小。
knn算法python代码案例
06-11
以下是一个简单的KNN算法的Python代码案例，假设我们有一个数据集，包含两个特征x和y，分别表示一个点在二维平面上的横坐标和纵坐标，以及一个类别标签label（0或1）： ```python import numpy as np # 距离函数 def distance(x1, x2): return np.sqrt(np.sum((x1 - x2) ** 2)) # KNN算法 def knn(X_train, y_train, X_test, k): num_test = X_test.shape[0] y_pred = np.zeros(num_test, dtype=y_train.dtype) for i in range(num_test): distances = np.array([distance(X_test[i], X_train[j]) for j in range(X_train.shape[0])]) nearest_indices = np.argsort(distances)[:k] nearest_labels = y_train[nearest_indices] y_pred[i] = np.argmax(np.bincount(nearest_labels)) return y_pred ``` 我们可以使用这个函数来预测测试集中的样本类别： ```python # 生成随机数据集 X_train = np.random.rand(100, 2) y_train = np.random.randint(0, 2, 100) X_test = np.random.rand(10, 2) # 使用KNN算法进行预测 y_pred = knn(X_train, y_train, X_test, 3) print("预测结果:", y_pred) ``` 输出结果为预测的测试集样本类别。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 16
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值