K-邻近算法

一.k-邻近算法概述

k近邻算法(KDD)采用测量不同特征值之间的距离方法进行分类。

优点：精度高、对异常值不敏感、无数据输入假定

缺点：计算复杂度高、空间复杂度高

适用数据范围：数值型和标称型。

k近邻法模型采用基于特征空间的划分，由距离度量、k值选择、分类决策规则决定。

距离度量：两个实例点相似程度的反映。可以使用欧式距离或者其他距离（Manhattan distance、Minkowski distance）

k值选择：k值对算法产生重大影响，k小，过拟合；k大