K近邻算法(KNN)【从 KNN 到 KD 树到算法实现】
K近邻算法(KNN)【从 KNN 到 KD 树到算法实现】
一、基本概念
KNN是一种基本分类和回归方法。
K近邻算法,即是给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的K个实例,这K个实例的多数属于某个类,就把该输入实例分类到这个类中。(这就类似于现实生活中少数服从多数的思想)
如上图所示,有两类不同的样本数据,分别用蓝色的小正方形和红色的小三角形表示,而图正中间的那个绿色的圆所标示的数据则是待分类的数据。
如果K=3,绿色圆点的最邻近的3个点是2个红色小三角形和1个蓝色小正
原创
2021-07-18 18:14:01 ·
489 阅读 ·
0 评论