“近水楼台先得月”——理解KNN算法

古语云：“近水楼台先得月”，意思是临近在水边的楼台就能优先得到月亮的光芒，也比喻由于接近某些人或事物而抢先得到某种利益或便利。还有一句类似的话：“远亲不如近邻”，说的是人在有需要时，邻居比远处的亲戚更加能获得支持和帮助。在人工智能领域，有一种算法，非常贴近上述的形象比喻，这就是KNN算法，即K最近邻算法（K-NearestNeighbors，简称KNN），它是一个比较简单的机器学习算法，也是一个理论上比较成熟的、运用基于样本估计的最大后验概率规则的判别方法。本文对KNN算法做一个通俗易懂的介绍，并通过python进行编码示范，让读者朋友对该算法有较好的理解。

 

 

“牛”还是“羊”——理解KNN

K最近邻算法的比较贴近的一个比喻场景是：一个牧场里，放养着许多牛和羊，它们交叉聚集生活在一起，有时某只动物自己都可能分不清自己是牛还是羊。按照K最近邻算法，它判别自己是牛或者羊的依据是——“我”周边离“我”最近的类别（牛或者羊），且在一定范围内是数量最多的类别，那“我”就是这个类别。归结到K最近邻算法中，就是在一个数据集中，新的数据点离哪一类最近且一定范围内最多，就和这一类属于同一类。

 

其中，这个一定范围就是邻居们（Neigh