KNN算法实践

1.什么是KNN算法

  k近邻法（k-nearest neighbor，k-NN）是一种基本的分类和回归方法，是监督学习方法里的一种常用方法。k近邻算法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例类别，通过多数表决等方式进行预测。

2.KNN算法的一般流程

①准备数据，对数据进行预处理
②计算测试样本点（也就是待分类点）到其他每个样本点的距离 。
③对每个距离进行排序，然后选择出距离最小的K个点。
④对K个点所属的类别进行比较，根据少数服从多数的原则，将测试样本点归入在K个点中占比最高的那一类

3.KNN算法的优缺点
优点：

①简单，易于理解，易于实现
②KNN可以处理分类问题，同时天然可以处理多分类问题，适合对稀有事件进行分类
③KNN还可以处理回归问题

缺点：
①计算量太大，尤其是特征数非常多的时候
②样本不平衡的时候，对稀有类别的预测准确率低

4.KNN算法的实现

  1.导入合适的库

2.对数据进行处理

3.数据编码

4.数据集划分

5.KNN实现

5.实验结果

  有实验结果可知实现了KNN算法，得到了预测中的数据