Scikit-learn_分类算法_k-近邻算法

最新推荐文章于 2022-05-17 23:24:32 发布
最新推荐文章于 2022-05-17 23:24:32 发布
阅读量239 收藏 1
点赞数
分类专栏： Water 文章标签： 算法 sklearn 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/feizuiku0116/article/details/120117754
版权

通过训练已知分类的数据集，从中可以发现分类规则，并以此预测新数据的所属类别，这被称为分类算法

一.描述

  • 对于待分类的样本，从训练集中找出k个和它距离最近的样本，考察这些样本中哪一个标签最多，就给-待分类样本贴上改标签。
  • k值的最佳选择高度依赖数据，通常较大的k值会抑制噪声的影响，但同时也会使分类界限不明显。通常k值是不大于20的整数。

二.用法和参数

neighbors提供了两种不同的最近邻分类器：

  • 一种是基于待分类样本点的k个最近邻实现，其中k是用户指定的整数值
  • 另一种是基于待分类样本点的固定半径r内的邻居数量实现，其中r是用户指定的浮点数值

三.实例

  • 查看鸢尾花数据集中的样本集合分类标签集

    from sklearn.datasets import load_iris
# 获取鸢尾花数据集
iris = load_iris()
# 150个样本，每个样本4项特征：花萼的长度和宽度，花瓣的长度和宽度
iris.data.shape
# 鸢尾花3个品种的名字
iris.target_names
# 150个样本的分类标签编号， 0、1、2分别对应3个品种
iris.target

  • 使用10%的样本作为测试集对鸢尾花进行分类，模型精度在93%左右

    # 获取鸢尾花数据集，返回样本集和标签集
X, y = load_iris(return_X_y=True)
# 拆分
x_train, X_test, y_train, y_test = tsplit(X, y, test_size=0.1)
# 实例化模型。n_neighbors参数指定k值，默认k=5
m = KNeighborsClassifier()
# 模型训练
m.fit(x_tarin, y_train)
# 模型测试精度
m.score(X_test, y_test)

四.注意事项

k-近邻分类模型理论成熟，计算精度高，对异常值不敏感，但相对其他分类模型而言计算量大，占用内存多。由于k-近邻分类模型主要靠周围有限的近邻样本，而不是靠判别类域的方法来确定所属类别，因此对于类域交叉或重叠较多的待分类样本集来说，k-近邻分类模型较其他模型来说更为合适。k-近邻分类模型比较适用于样本数量比较大的自动分类，当样本数量较小时容易产生错误分类

飞Link
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
scikit-learn 常用分类算法的使用
老胡的笔记
06-10 4860
cikit-learn机器学习的分类算法：逻辑回归、朴素贝叶斯、KNN、支持向量机、决策树和随机森林等
Python中Scikit-Learn库的分类方法总览 ！
Pythoncxy的博客
06-22 1343
简介 你是一个正在进入机器学习领域的Python程序员吗? 掌握Scikit-Learn就是一个开启你的旅程的很好的方式。 使用Scikit-Learn进行一些分类是应用你所学到的知识的一种直接而简单的方法，通过使用一个用户友好的、文档良好且健壮的库来实现这些分类可以让机器学习概念更具体化。 什么Scikit-Learn? Scikit-Learn是一个Pyth...
Scikit-learn K临近算法
Big_Head_的博客
05-28 324
K近邻算法是一种基本的分类与回归的方法。 简单来讲，这个算法就是遵循近朱者赤近墨者黑的道理，对于需要判断的点来说，并不需要去找一个模型来给出这个点的答案，而只是需要知道一个点集的所有点的答案，然后观察这个点附近的K个点是什么，然后这个K个点来投票决定我的这个点到底是什么来的。 这个算法是没有显示的学习过程，只是利用了训练集的特征向量空间进行划分，其实这个就是K临近算法的模型了。 对于这个K临...
scikit-learn之分类算法
涛涛不绝蕾蕾于冬
04-27 559
1、逻辑回归 class sklearn.linear_model.LogisticRegression penalty=’l2’：‘l1’ or ‘l2’，正则项，‘newton-cg’, ‘sag’ and ‘lbfgs’ 只支持 ‘l2’； dual=False： bool，默认值就可以； tol=0.0001：停止准则容忍度； C=1.0： positive float，正则化强...
【Scikit-Learn】k-近邻算法分类
造出高达般的人工智能机器人
08-31 457
%matplotlib inline import matplotlib.pyplot as plt import numpy as np from sklearn.datasets.samples_generator import make_blobs # 生成数据 centers = [[-2, 2], [2, 2], [0, 4]] # 生成以centers为中心，以标准差cluster_...
scikit_learn-0.24.2-cp38-cp38-win_amd64.whl.zip
最新发布
12-15
scikit-learn库包含多种机器学习算法，如逻辑回归、支持向量机、决策树、随机森林、梯度提升机、K近邻、聚类算法等。此外，它还提供特征选择、数据预处理（例如标准化、归一化）、交叉验证、网格搜索等工具，帮助...
Python机器学习之scikit-learn库中KNN算法的封装与使用方法
09-19
本篇文章将详细介绍如何在scikit-learn库中封装和使用K近邻（K-Nearest Neighbors，简称KNN）算法。 KNN是一种基于实例的学习方法，它不涉及任何训练过程，而是通过计算新样本与训练集中已知类别的样本之间的距离来...
scikit_learn-0.24.0-cp36-cp36m-win_amd64.whl.zip
12-15
在Scikit-Learn 0.24.0中，开发者可以利用一系列强大的机器学习算法，如支持向量机（SVM）、决策树、随机森林、梯度提升（Gradient Boosting）、K近邻（K-Nearest Neighbors）、朴素贝叶斯、线性回归、逻辑回归等。...
Python版数据挖掘实验2报告：使用 Scikit-learn中的 K近邻算法进行分类.pdf
06-23
Python版数据挖掘实验2报告：使用 Scikit-learn中的 K近邻算法进行分类.pdfPython版数据挖掘实验2报告：使用 Scikit-learn中的 K近邻算法进行分类.pdfPython版数据挖掘实验2报告：使用 Scikit-learn中的 K近邻算法...
scikit-learn:Jupyter笔记本，使用scikit-learn训练模型
04-29
实际上，scikit-learn支持许多其他算法，如决策树、随机森林、支持向量机、K近邻、神经网络等，以及集成学习方法，如网格搜索、交叉验证和模型选择工具。通过Jupyter Notebook，你可以逐步探索这些概念，不断优化你...
Python使用sklearn库实现的各种分类算法简单应用小结
09-19
主要介绍了Python使用sklearn库实现的各种分类算法,结合实例形式分析了Python使用sklearn库实现的KNN、SVM、LR、决策树、随机森林等算法实现技巧,需要的朋友可以参考下
Scikit-learn_分类算法_贝叶斯分类
feizuiku0116的博客
09-05 257
一.原理 在给出的待分类样本中，找出当前条件下出现概率最大的类别，此类别几维待分类样本的所属类别 二.用法和参数 GaussianNB 先检验分布为高斯分布的朴素贝叶斯 适用于样本特征的分布大部分是连续值 MultinomialNB 先检验分布为多项式分布的朴素贝叶斯 适用于样本特征的分布大部分是多元离散值 BernoulliNB 先检验分布为伯努利分布的朴素贝叶斯 适用于样本特征是二元离散值或很稀疏的多元离散值 三.实例 将文本样本转为TF-IDF向量 from sklearn.
scikit-learn实现机器学习（一）分类算法
qq_59423136的博客
05-17 345
from sklearn import datasets # 导入数据集 import numpy as np from sklearn.model_selection import train_test_split # 划分数据集 from sklearn.preprocessing import StandardScaler # 对特征进行标准化处理 from sklearn.linear_model import Perceptron # 对结果进行预测 from sklearn.metrics i.
机器学习 scikit-learn 算法分类
小小熊的博客
10-14 434
机器学习 scikit-learn 算法分类 监督学习（预测） 分类(目标值离散型) k-近邻算法 贝叶斯分类 决策树与随机森林 逻辑回归 神经网络 回归(目标值连续型) 线性回归 岭回归 标注 隐马尔可夫模型 无监督学习 聚类 k-means ...
Python scikit-learn分类 近邻算法KNN
qq_36847641的博客
08-12 779
《Python数据挖掘入门与实践》Robert Layton 人民邮电出版社，第2章估计器Estimator：用于分类、聚类和回归分析 转换器Transformer：用于数据预处理和数据转换 流水线Pipeline：组合数据挖掘流程，便于再次使用%matplotlib inline #jupyter notebook里的命令, 意思是将那些用matplotlib绘制的图显示在页面里而不是弹出一
Scikit-learn之k近邻算法实现
codeman的博客
05-02 265
系列文章目录 一、导包、导数据 import numpy as np import matplotlib.pyplot as plt from sklearn import datasets from sklearn.model_selection import train_test_split from sklearn.metrics import accuracy_score #load the classifying models from sklearn.linear_model import
2021/12/31机器学习之scikit-learn分类器
bcxiaobaichi的博客
01-05 1656
预备：训练机器学习分类算法的主要步骤 1.选择特征并收集训练样本 2.选择度量性能的指标 3.选择分类器并优化算法 4.评估模型的性能 5.调整算法 一、基于逻辑回归的分类概率建模
scikit-learn k-近邻分类算法（kNN）
泛泛之素
01-22 3031
kNN 的作用机制为 在目标周围选取最近k个点，这k个点哪种占比最大，就可以把这个目标分类到那个分类，即有分到相似属性多的类别。 该算法和回归，决策树不同之处是，回归和决策树是通过训练集确定参数，参数一旦确定直接就能拿来进行测试，而kNN不同，它的分类要凭借训练数据，或者说并没有训练这一过程。 数据 应用sklearn的莺尾花数据集 # 加载数据 iris = load_iris(
【机器学习】sklearn机器学习入门案例——使用k近邻算法进行鸢尾花分类
让算法融入生活，改变生活！
06-13 2833
1 背景 这个案例恐怕已经被说的很烂了，机器学习方面不同程度的人对该案例还是有着不同的感觉。有的人追求先理解机器学习背后的理论甚至自己推导一遍相关数学公式，再用代码实现；有的人则满足于能够实现相关功能即可。凡是都有两面性，理解算法背后原理，再去实现相关算法，这个对算法理解深刻，更能融会贯通，拓展性强，但是需要有一定的数学基础以及要花费一段时间；若能够实现相关算法，知道各个参数的意义，也是能够尽快处理相关的任务，但是可拓展性就不那么好了。 当前，对于传统的机器学习算法进行很好的实现的Python包也当属skl
scikit-learn机器学习实战：从安装到核心概念解析
分类是监督学习的一个分支，其中1.1至1.14章节讨论了如广义线性模型、支持向量机(SVM)、随机梯度下降(Stochastic Gradient Descent, SGD)、K近邻(K-Nearest Neighbors, KNN)、高斯过程(Gaussian Processes)、交叉...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值