机器学习之k-近邻算法

k-近邻算法(KNN)

• 定义：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。
• 来源：KNN算法最早由Cover和Hart提出的一种分类算法。

计算距离公式

• 两个样本的距离可以通过如下公式计算，又称为欧式距离，比如说，a(a1,a2,a3),b(b1,b2,b3)
• 
• k-近邻算法需要标准化

sklearn k-近邻算法API

• sklearn.neighbors.KNeightborsClassifier(n_neighbors=5,algorithm='auto')
• n_neighbors:int类型，可选(默认=5)，n_neighbors查询默认使用的邻居数
• algorithm:{‘auto’,‘ball_tree’,‘kd_tree’,‘brute’}，可选用于计算最近邻居的算法：'ball_tree’将会使用BallTree，'kd_tree’将会使用KDTree。'auto’将会尝试根据传递给fit方法的值来决定最合适的算法。(不同的实现方式会影响效率)

k的取值问题

• k值取很小
  • 易受异常点影响
• k值取很大
  • 易受k值数量(类别)波动
• 性能问题
  • 时间复杂度高
  • 样本会越来越大
• 参数调优

优缺点

• 优点
  • 简单，易于理解，易于实现，无需估计参数，无需训练
• 缺点
  • 懒惰算法，对测试样本分类时的计算量大，内存开销大
  • 必须指定K值，K值选择不当则分类精度不能保证

使用场景

• 小数据场景，几千至几万样本，具体场景具体业务去测试