kNN分类器 （k nearest neighborhood classifier)

1. 最小距离分类器 1-nearest-neighborhood classifier

最小距离分类器可以被看做是KNN分类器中最简单的一种。当k=1时，KNN分类器即为最小距离分类器。

1.1 原理

最小距离分类器的基本原理非常简单：把测试样本X分类为与其最近的训练样本Xi所在的类i。

最小距离分类器的优点在于原理非常简单，在维数比较低的情况下分类边界可以使非线性的，非常灵活。而缺点在于由于需要一一进行距离计算并比较，速度会很慢，并且当维数过高的时候，将会陷入维数诅咒中。

1.2 距离函数

距离函数的定义：D( , )是距离函数，如果：

（1）D(X,Z)>=0 and D(X,X)