K近邻算法-----liuyubobobo之机器学习

最新推荐文章于 2021-04-22 20:01:51 发布
最新推荐文章于 2021-04-22 20:01:51 发布
阅读量139 收藏
点赞数
分类专栏： 日常之机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_49234921/article/details/114900767
版权

K近邻算法-----liuyubobobo之机器学习

在这里插入图片描述


我们已经知道的数据是分布在特征空间中的，为了可视化方便，我们放在二维空间里面。
恶性肿瘤用蓝色来表示，良性用红色表示。

K近邻算法：

首先取一个K值，选取离我们的目标点最近的三个点（因为k=3）----K近邻算法的本质：两个样本相似的话，我们就说他们属于同一个样本。相似性是通过样本在特征空间中的距离来表示的，
K近邻算法可以解决分类问题，也可以解决回归问题。

代码实现

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
![在这里插入图片描述](https://img-blog.csdnimg.cn/2021031815263553.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzQ5MjM0OTIx,size_16,color_FFFFFF,t_70在这里插入图片描述
在这里插入图片描述

求的新样本点和原来样本点中每一个样本点之间的距离 放在distance中。

在这里插入图片描述

np.argsort():对一个数组进行排序，返回的是相应的排序后结果的索引。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

这里返回的是一个数组，数组中元素是一个个元组，most_commom(1)票数最多的1个元素—结果：[（1，3）]–是个数组类型,most_commom(1)[0]这里表示取到元组是（1，3），most_commom(1)[0][0]取到元组中数字1，most_commom(1)[0][1] 取到元组中数字3.

在这里插入图片描述

土豆娃potato
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
机器学习之k-近邻算法.zip
04-23
《机器学习之k-近邻算法》 k-近邻（K-Nearest Neighbors，简称KNN）算法是监督学习领域中一个基础且重要的算法，尤其在分类问题上表现突出。KNN属于懒惰学习（Lazy Learning）类型，因为它并不进行模型训练，而是将...
k近邻算法-酒店入住位置预测（数据集）
02-27
k-近邻算法-预测入住位置（数据集） kaggle下载很麻烦 下载txt文档，里面是百度网盘的链接，永久有效 k-近邻算法-预测入住位置（数据集） kaggle下载很麻烦 下载txt文档，里面是百度网盘的链接，永久有效
liuyubobobo《机器学习》学习笔记（一）
atporter的博客
07-27 583
什么是机器学习 1.最早的机器学习应用：垃圾邮件分辨 传统做法：定义“垃圾邮件”，进行筛选 问题：难定义、多变化 2.人类的学习过程（经验学习） 3.机器学习过程 4.机器学习在生活中的应用 google：根据部分关键字判断搜索内容 最喜欢的商品，音乐，图书，文章…… 语音识别，人脸识别 金融预测，医疗诊断 5.未来领域 无人驾驶、安全领域、医疗领域、金融领域、市场领域、各种专有领域…… 自然语言处理 6.人工智能、机器学习、深度学习 ...
liuyubobobo《机器学习》学习笔记（十）
atporter的博客
02-02 349
PCA 1.主成分分析Principal Component Analysis 是一个非监督的机器学习算法，主要用于数据的降维 通过降维，可以发现更便于人类理解的特征 其他应用：可视化，去噪 2.主成分分析的推导过程 考虑这样一个过程：将二维数据降维到一维 最好的方案为：找到一个轴，使得样本空间的所有点映射到这个轴后，间距最大 样本间间距——方差 首先，将样例的均值归为0（demean），方差公式变为：Var(x)=1m∑i=1m(xi−x‾)2=1m∑i=1mxi2Var(x) = \frac{1}{
liuyubobobo《机器学习》学习笔记（三）
atporter的博客
08-04 414
Jupyter Notebook 1.Jupyter Notebook 关于Jupyter Notebook的介绍，请看 传送门 Jupyter Notebook 有两种键盘输入模式。编辑模式，允许你往单元中键入代码或文本；命令模式，键盘输入运行程序命令。 按Enter进入编辑模式，按Esc进入命令行模式 2.Jupyter Notebook的快捷键 常用快捷键（命令行模式） Shift+Enter : 运行本单元，选中下个单元 Ctrl+Enter : 运行本单元 Alt+Enter : 运行本单
liuyubobobo《机器学习》学习笔记（二）
atporter的博客
07-30 333
机器学习基础 1.数据的一些概念 萼片长度 萼片宽度 花瓣长度 花瓣宽度 种类 5.1 3.5 1.4 0.2 0（se） 7.0 3.2 4.7 1.4 1（ve） 6.3 3.3 6 2.5 2（vi） 数据整体叫数据集 每一行数据称为一个样本 除最后一列之外的每一列是样本的一个特征 最后一列称为标记（label） 2.数据的矩阵表示 除最后一列外的数据，用矩阵X表示，X(i)X^{(i)}X(i)表示第i个样本行，Xj(i)X^{(i)}_jXj(i)​表示第i个样本
机器学习-k近邻算法
liugallup的专栏
09-24 484
1、优点：精度高、对异常值不敏感、无数据输入假定       缺点：计算复杂度高、空间复杂度高      适用范围：数值型和标称型    工作原理：存在一个样本数据集合，也称为训练样本集，并且样本集中每个数据都有标签，即我们知道样本集中每一数据与所属分类的对应关系。输入没有标签的新数据后，将新数据的每个特征与样本集中数据对应的特征进行选择，然后算法提取样本集中特征最相似数据（最近邻）
K-近邻算法KNN学习笔记
01-27
K-近邻算法（K-Nearest Neighbor, KNN）是一种基础的机器学习算法，主要用于分类和回归任务。它的核心思想是基于实例的学习，通过在训练数据集中寻找与新样本最为相似的邻居来做出预测。KNN算法由Cover T和Hart P在...
python机器学习K近邻算法--红酒分类预测.py
11-14
K近邻算法实战，精确的高，感兴趣的可以看一看
Python语言实现机器学习的K-近邻算法
09-21
K-近邻（K-Nearest Neighbors，简称KNN）算法是一种简单而有效的机器学习算法，主要用于分类和回归问题。KNN属于监督学习方法，因为它需要预先存在的带有标签的训练数据来对新数据进行预测。算法的核心思想是通过...
学习方法分享
yechaoa
04-16 998
特别声明：原作者 liuyubobobo 由于每个人的背景不同，擅长不同，每个人都有适合自己的不同的学习方法； 与此同时，不同的领域，由于其本质不同，学习方法也应该是不同的。 我坚信：每个人去寻找适合于自己的学习方法，是每个人一生的话题。 别人叙述的所谓的“学习方法”，只能作为参考用。 1、不要完美主义！ 我观察到的大多数同学犯得最最最最大的“错误”，就是在学习上“完美主义”。乃至后续很多其他...
机器学习笔记网盘分享
小呆苗的博客
04-22 656
机器学习笔记百度网盘分享 后期随着进度更新 链接: https://pan.baidu.com/s/1DpeGvkaAw8uNhKpuSBR40A 提取码: kbz2 复制这段内容后打开百度网盘手机App，操作更方便哦
最全最实用的人工智能AI资源清单
MIss-Y的博客
11-22 2862
转自 机器学习算法与python学习howie6879在Github上维护了一个机器学习网站导航以及资源的目录，包含了新闻资讯、课程、比赛、项目、文档等导航链接，主流的都...
liuyubobobo：学习方法分享
qq_21753005的博客
08-14 5143
在慕课网做了这么多实战课，时间长了，收到了越来越多的同学的问题。除了专业知识上的问题，遇到的最多的问题，就是学习方法方面的问题了。由于我本人不是学习方法的专家，所以不敢轻易说自己的学习方法多么先进。更重要的是，我不认为有一种固定的“好”的学习方法是适合所有同学。如果存在那样的方法的话，学习就太简单了：）由于每个人的背景不同，擅长不同，每个人都有适合自己的不同的学习方法；与此同时，不同的领域，由于其...
liuyubobobo《机器学习》学习笔记（六）
atporter的博客
08-29 357
numpy和matplotlib (3) 1.matplotlib import matplotlib as mpl import matplotlib.pyplot as plt # 常用 最基础的用法 import numpy as np x = np.linspace(0, 10, 100) y = np.sin(x) plt.plot(x, y) plt.show() # Jupyter Notebook上不用show()也可以显示出来 支持两条曲线，并设置参数 x =
统计学习方法——K近邻模型
热门推荐
刘炫320的博客
03-09 1万+
0. 写在前面在这一讲的讨论班中，我们将要讨论一下K近邻模型。可能有人会说，K近邻模型有什么好写的，那分明就是一个最简单的机器学习模型，哦，不，连机器学习也算不上的算法吧。但是这里，我想提醒的是，我们要讨论的，不仅仅是简单的K近邻模型，而是和它相关的一些有困惑的话题。1. K近邻定义k近邻算法，也成为KNN算法，是一种基本分类与回归算法。它在基本实现上，使用的是多数表决的惰性学习过程。也就是它实际上
机器学习 学习笔记（一） 机器学习导学
weixin_44264662的博客
07-22 230
目录： 在看了liuyubobobo、吴恩达、林轩田老师的课程以及很多博客的内容后，决心做一个知识点的大整理，梳理整个学习的脉络。 在学习过更多的内容后，可能会添加上一些新的理解。 1-1 为什么需要机器学习 对于传统的算法来说，比如排序算法，是交给机器来执行。 比如解决垃圾邮件的分辨，使用传统算法的解决问题思路： 编写规则，定义“垃圾邮件”，让计算机执行 但这种处理方法的问题在于，判断垃圾...
机器学习入门笔记（三）：K近邻算法
逐梦er的博客
06-24 1万+
文章目录一.K近邻算法的基本概念1.1 K近邻算法实现二.K近邻分类三要素2.1 距离度量2.2 K值的选择2.2.1 基于m-fold cross validation的 K值选择2.3 决策规则2.3.1 多数表决规则( majority voting rule)2.3.2 基于距离的加权投票三.k近邻算法的实现：kd树3.1 构造kd树3.2 搜索kd树 一.K近邻算法的基本概念 k近邻算法简单、直观：给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例 最邻近的k个实例，这k个实例的多数
Python机器学习：k-NN算法与特征缩放实战
k近邻（k-NN）算法是一种基于实例的学习方法，它属于非参数监督学习算法，广泛应用于分类和回归问题。k-NN算法的核心思想是：通过寻找训练集中与待预测样本最相似的k个邻居，根据这些邻居的类别或属性来预测新样本的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

土豆娃potato

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值