KNN算法

本文介绍了KNN(k近邻)算法的基本原理和操作步骤,包括数据清洗、计算样本间的相似度、选取k值以及确定最佳k值的方法。通过一个电影类型分类的例子,详细阐述了KNN的实施过程。最后,讨论了k值选择的重要性,并展示了不同k值对分类准确率的影响,得出k=5时准确率最高的结论。
摘要由CSDN通过智能技术生成

1、kNN算法又称为k近邻分类(k-nearest neighbor classification)算法。
最简单平凡的分类器也许是那种死记硬背式的分类器,记住所有的训练数据,对于新的数据则直接和训练数据匹配,如果存在相同属性的训练数据,则直接用它的分类来作为新数据的分类。这种方式有一个明显的缺点,那就是很可能无法找到完全匹配的训练记录。

kNN算法则是从训练集中找到和新数据最接近的k条记录,然后根据他们的主要分类来决定新数据的类别。该算法涉及3个主要因素:训练集、距离或相似的衡量、k的大小。

下面通过一个简单的例子来看下

通过KNN算法算出唐人街探案是属于哪种类型的电影

过程:

(1)在进行KNN算法之前需要先进行数据清洗,如异常值,野值等会干扰结论(本案例数据较少可不用进行数据清洗)

(2)计算每个样本和新样本的相似度

公式:d= √(x-x1)^2+(x-x2)^2+(x-x3)^2

(3)对数据以相似度进行顺序排序

(3)选取k值,根据样本数据数量的大小取k值,本案中可取k=5,然后取5个样本数据中最多的标签(取众数)

代码如下

import pandas as pd
import numpy as np
data = pd.read_excel(r'C:\Users\Administrator\Desktop\电影分类数据.xlsx',encoding='gbk')
print(data.columns)
# 计算与表中每个电影的相似度并插入表中'相似性'字段
data['相似度'] = np.sqrt((data.columns[7]-data['搞笑镜头'])**2+(data.columns[8]-data['拥抱镜头'])**2+(data.columns[9]-data['打斗镜头'])**2)
# 对表中的数据以相似性进行顺序排序
data.sort_values(by='相似度',inplace=True)
print(data)
result = data['电影类型'].head()
print('{}属于'.format(data.columns[6]),result.mode()[0])

运行结果:

E:\Anaconda3\python.exe E:/Project/人工智能/day-05
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值