1.什么是KNN算法
k近邻法(k-nearest neighbor,k-NN)是一种基本的分类和回归方法,是监督学习方法里的一种常用方法。k近邻算法假设给定一个训练数据集,其中的实例类别已定。分类时,对新的实例,根据其k个最近邻的训练实例类别,通过多数表决等方式进行预测。
2.KNN算法的一般流程
①准备数据,对数据进行预处理
②计算测试样本点(也就是待分类点)到其他每个样本点的距离 。
③对每个距离进行排序,然后选择出距离最小的K个点。
④对K个点所属的类别进行比较,根据少数服从多数的原则,将测试样本点归入在K个点中占比最高的那一类
3.KNN算法的优缺点
优点:
①简单,易于理解,易于实现
②KNN可以处理分类问题,同时天然可以处理多分类问题,适合对稀有事件进行分类
③KNN还可以处理回归问题
缺点:
①计算量太大,尤其是特征数非常多的时候
②样本不平衡的时候,对稀有类别的预测准确率低
4.KNN算法的实现
1.导入合适的库
2.对数据进行处理
3.数据编码
4.数据集划分
5.KNN实现
5.实验结果
有实验结果可知实现了KNN算法,得到了预测中的数据