利用Python实现KNN算法

最新推荐文章于 2021-02-13 22:01:38 发布

随便取的名字~

最新推荐文章于 2021-02-13 22:01:38 发布

阅读量452

点赞数

分类专栏：数学模型文章标签： python 聚类算法

本文链接：https://blog.csdn.net/clown_0518/article/details/108210595

版权

本文介绍了KNN算法的基础知识，包括其在分类问题中的应用。详细阐述了算法原理，并提供了Python代码实现，帮助读者理解如何利用Python进行KNN算法的实战。

摘要由CSDN通过智能技术生成

KNN

简介
算法
代码实现

简介

k-nearest neighbour, 简称KNN算法，是用来进行分类和回归的算法，这里仅介绍分类问题。在原始训练数据集的基础上，给定现有数据，经过一定的算法使现有的数据属于某个类别。

输入格式： T = {(x1, y1), …, (xn,yn)}，其中xi表示训练数据的特征向量，yi表示训练数据的类别，一般类别用离散的常量表示。待分类数据的特征向量为x
输出格式：给出输入特征向量的类别

算法

repeat
	1.根据距离度量的算法（例如欧氏距离），在训练数据集T中找到与x最邻近的k个点，涵盖k此k个点的邻域记为Nk(x)
	2.在nk(x)中根据分类决策规则决定x的类别y：
		y = argmax (对每个类别求和)
	3.在结果集中增加类别
until 所有数据均处理完毕

代码实现

import matplotlib.pyplot as plt


def loadDataSet(file):
    data_set = []
    label_set = []
    fr = open(file)
    for line in fr.readlines():
        line = line.strip().split(',')  # 这里默认数据使用英文，分割
        data_set.append([float(line[0]),float(line[1])])
        label_set.append([float(line[2])]