【机器学习】K-近邻算法

一、分类算法-k近邻算法(KNN)

定义：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。来源：KNN算法最早是由Cover和Hart提出的一种分类算法。

计算距离公式

两个样本的距离可以通过如下公式计算，又叫欧氏距离

比如说，a(a1,a2,a3)，b(b1,b2,b3)

二、sklearn k-近邻算法API

sklearn.neighbors.KNeighborsClassifier(n_neighbors=5,algorithom='auto')

● n_neighbors：int，可选（默认=5），k_neighbors查询默认使用的邻居数

● algorithm：{'auto'，'ball_tree'，'kd_tree'，'brute'}，可选用于计算最近邻居的算法：'ball_tree'将会使用BallTree，'kd_tree'将使用KDTree。'auto'将尝试根据传递给fit方法的值来决定最合适的算法。（不同实现方法影响效率）

三、实例：预测入住位置

1、