huxcai的专栏

原创 K近邻算法及其实现

1. KNN (k-Nearest Neighbor)k近邻算法是一种基本分类与回归方法。k近邻法假设给定一个训练数据集，其中的实例类别一定。分类时，对新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方法进行预测。因此k近邻算法不具有显式的学习过程。k近邻实际上是利用训练数据集对特征向量空间进行划分，并作为其分类的模型。 k近邻的三个基本要素是：k值的选择，距离的度量以及分类决策规则。1