KNN（K-最近邻）算法是一种基于实例的学习方法，通过计算新样本与训练集中点的距离，选取最近的K个点，根据多数类别决定新样本的归属。K的选择对结果有很大影响，较小的K可能导致过拟合，较大的K可以减少噪声影响，但可能降低边界样本的分类准确性。KNN实现包括距离计算、升序排列、选取最近K个点及可能的加权平均决策过程。
ＫＮＮ介绍
KNN (K-Nearest Neighbor）算法，意思是K个最近的邻居，从这个名字我们就能看出一些KNN算法的蛛丝马迹了。K个最近邻居，毫无疑问，K的取值肯定是至关重要的。那么最近的邻居又是怎么回事呢？其实啊，KNN的原理就是当预测一个新的值x的时候，根据它距离最近的K个点是什么类别来判断x属于哪个类别。
图中绿色的点就是我们要预测的那个点，假设K=3。那么KNN算法就会找到与它距离最近的三个点（这里用圆圈把它圈起来了），看看哪种类别多一些，比如这个例子中是蓝色三角形多一些，新来的绿色点就归类到蓝三角了。
但是，当K=5的时候，判定就变成不一样了。这次变成红圆多一些，所以新来的绿点被归类成红圆。从这个例子中，我们就能看得出K的取值是很重要的。
KNN实现步骤
1、距离计算
2、升序排列
3、取前K个
4、加权平均
实战演习
扫一扫
2688
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
