李航统计学习方法-k近邻法

                                   k近邻法

          k近邻法（k-nearest neighbor，k-NN）是一种基本分类与回归方法。本书只讨论分类 问题中的k近邻法。k近邻法的输入为实例的特征向量，对应于特征空间的点；输出为实例 的类别，可以取多类。k近邻法假设给定一个训练数据集，其中的实例类别已定。分类 时，对新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测。 因此，k近邻法不具有显式的学习过程。k近邻法实际上利用训练数据集对特征向量空间进 行划分，并作为其分类的“模型”。k值的选择、距离度量及分类决策规则是k近邻法的三个 基本要素。k近邻法1968年由Cover和Hart提出。 本章首先叙述k近邻算法，然后讨论k近邻法的模型及三个基本要素，最后讲述k近邻 法的一个实现方法——kd树，介绍构造kd树和搜索kd树的算法。

      k近邻算法

        k近邻算法简单、直观：给定一个训练数据集，对新的输入实例，在训练数据集中找 到与该实例最邻近的k个实例，这k个实例的多数属于某个类，就把该输入实例分为这个 类。下面先叙述k近邻算法，然后再讨论其细节。 算法3.1（k近邻法） 输入：训练数据集      其中，xi∊x⊆Rn为实例的特征向量，yi∊＝{c1，c2 ,…,cK}为实例的类别，i＝1,2,…,N；实 例特征向量x； 输出：实例x所属的类y。

（1）根据给定的距离度量，在训练集T中找出与x最邻近的k个点，涵盖这k个点的x 的邻域记作Nk(x)；

（2）在Nk(x)中根据分类决策规则（如多数表决）决定x的类别y：

 

式（3.1）中，I为指示函数，即当yi＝cj时I为1，否则I为0。 k近邻法的特殊情况是k＝1的情形，称为最近邻算法。对于输入的实例点（特征向 量）x，最近邻法将训练数据集中与x最邻近点的类作为x的类。 k近邻法没有显式的学习过程。

      k近邻模型

k近邻法使用的模型实际上对应于对特征空间的划分。模型由三个基本要素——距离 度量、k值的选择和分类决策规则决定。k近邻法中，当训练集、距离度量（如欧氏距离）、k值及分类决策规则（如多数表 决）确定后，对于任何一个新的输入实例，它所属的类唯一地确定。这相当于根据上述要 素将特征空间划分为一些子空间，确定子空间里的每个点所属的类。这一事实从最近邻算 法中可以看得很清楚。 特征空间中，对每个训练实例点ix，距离该点比其他点更近的所有点组成一个区域， 叫作单元（cell）。每个训练实例点拥有一个单元，所有训练实例点的单元构成对特征空 间的一个划分。最近邻法将实例ix的类iy作为其单元中所有点的类标记（class label）。这样每个单元的实例点的类别是确定的。

图3.1是二维特征空间划分的一个例子。

特征空间中两个实例点的距离是两个实例点相似程度的反映。k近邻模型的特征空间 一般是n维实数向量空间Rn。使用的距离是欧氏距离，但也可以是其他距离，如更一般的 Lp距离（Lp distance）或Minkowski距离（Minkowski distance）。

 

   k值的选择会对k近邻法的结果产生重大影响。 如果选择较小的k值，就相当于用较小的邻域中的训练实例进行预测，“学习”的近似 误差（approximation error）会减小，只有与输入实例较近的（相似的）训练实例才会对 预测结果起作用。但缺点是“学习”的估计误差（estimation error）会增大，预测结果会对 近邻的实例点非常敏感[2]。如果邻近的实例点恰巧是噪声，预测就会出错。换句话说，k 值的减小就意味着整体模型变得复杂，容易发生过拟合。 如果选择较大的k值，就相当于用较大邻域中的训练实例进行预测。其优点是可以减 少学习的估计误差。但缺点是学习的近似误差会增大。这时与输入实例较远的（不相似 的）训练实例也会对预测起作用，使预测发生错误。k值的增大就意味着整体的模型变得 简单。 如果k＝N，那么无论输入实例是什么，都将简单地预测它属于在训练实例中最多的 类。这时，模型过于简单，完全忽略训练实例中的大量有用信息，是不可取的。 在应用中，k值一般取一个比较小的数值。通常采用交叉验证法来选取最优的k值。

      k近邻法中的分类决策规则往往是多数表决，即由输入实例的k个邻近的训练实例中的 多数类决定输入实例的类。 多数表决规则（majority voting rule）有如下解释：如果分类的损失函数为0-1损失函 数，分类函数为：

           

   那么误分类的概率是  

k近邻法的实现：kd树

      实现k近邻法时，主要考虑的问题是如何对训练数据进行快速k近邻搜索。这点在特征 空间的维数大及训练数据容量大时尤其必要。 k近邻法最简单的实现方法是线性扫描（linear scan）。这时要计算输入实例与每一个 训练实例的距离。当训练集很大时，计算非常耗时，这种方法是不可行的。 为了提高k近邻搜索的效率，可以考虑使用特殊的结构存储训练数据，以减少计算距 离的次数。具体方法很多，下面介绍其中的kd树（kd tree）方法

         kd树是一种对k维空间中的实例点进行存储以便对其进行快速检索的树形数据结构。 kd树是二叉树，表示对k维空间的一个划分（partition）。构造kd树相当于不断地用垂直于坐标轴的超平面将k维空间切分，构成一系列的k维超矩形区域。kd树的每个结点对应于一 个k维超矩形区域。

          构造kd树的方法如下：构造根结点，使根结点对应于k维空间中包含所有实例点的超 矩形区域；通过下面的递归方法，不断地对k维空间进行切分，生成子结点。在超矩形区 域（结点）上选择一个坐标轴和在此坐标轴上的一个切分点，确定一个超平面，这个超平 面通过选定的切分点并垂直于选定的坐标轴，将当前超矩形区域切分为左右两个子区域 （子结点）；这时，实例被分到两个子区域。这个过程直到子区域内没有实例时终止（终 止时的结点为叶结点）。在此过程中，将实例保存在相应的结点上。 通常，依次选择坐标轴对空间切分，选择训练实例点在选定坐标轴上的中位数 （median）[2]为切分点，这样得到的kd树是平衡的。注意，平衡的kd树搜索时的效率未必 是最优的。

（1）开始：构造根结点，根结点对应于包含T的k维空间的超矩形区域。 选择x (1)为坐标轴，以T中所有实例的x (1)坐标的中位数为切分点，将根结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴x (1)垂直的超平面实现。 由根结点生成深度为1的左、右子结点：左子结点对应坐标x (1)小于切分点的子区域， 右子结点对应于坐标x (1)大于切分点的子区域。 将落在切分超平面上的实例点保存在根结点。

（2）重复：对深度为j的结点，选择x (l)为切分的坐标轴，l＝j(modk)+1，以该结点的 区域中所有实例的x (l)坐标的中位数为切分点，将该结点对应的超矩形区域切分为两个子 区域。切分由通过切分点并与坐标轴x (l)垂直的超平面实现。 由该结点生成深度为j+1的左、右子结点：左子结点对应坐标x (l)小于切分点的子区 域，右子结点对应坐标x (l)大于切分点的子区域。 将落在切分超平面上的实例点保存在该结点。

（3）直到两个子区域没有实例存在时停止。从而形成kd树的区域划分。

搜索kd树

    下面介绍如何利用kd树进行k近邻搜索。可以看到，利用kd树可以省去对大部分数据 点的搜索，从而减少搜索的计算量。这里以最近邻为例加以叙述，同样的方法可以应用到 k近邻。

     给定一个目标点，搜索其最近邻。首先找到包含目标点的叶结点；然后从该叶结点出 发，依次回退到父结点；不断查找与目标点最邻近的结点，当确定不可能存在更近的结点 时终止。这样搜索就被限制在空间的局部区域上，效率大为提高。

     包含目标点的叶结点对应包含目标点的最小超矩形区域。以此叶结点的实例点作为当 前最近点。目标点的最近邻一定在以目标点为中心并通过当前最近点的超球体的内部（参阅图3.5）。然后返回当前结点的父结点，如果父结点的另一子结点的超矩形区域与超球 体相交，那么在相交的区域内寻找与目标点更近的实例点。如果存在这样的点，将此点作 为新的当前最近点。算法转到更上一级的父结点，继续上述过程。如果父结点的另一子结 点的超矩形区域与超球体不相交，或不存在比当前最近点更近的点，则停止搜索。

 

下面叙述用kd树的最近邻搜索算法。

算法3.3（用kd树的最近邻搜索）

输入：已构造的kd树；目标点x； 输出：x的最近邻。

（1）在kd树中找出包含目标点x的叶结点：从根结点出发，递归地向下访问kd树。若 目标点x当前维的坐标小于切分点的坐标，则移动到左子结点，否则移动到右子结点。直 到子结点为叶结点为止。

（2）以此叶结点为“当前最近点”。

（3）递归地向上回退，在每个结点进行以下操作：

         （a）如果该结点保存的实例点比当前最近点距离目标点更近，则以该实例点为“当前 最近点”。

         （b）当前最近点一定存在于该结点一个子结点对应的区域。检查该子结点的父结点 的另一子结点对应的区域是否有更近的点。具体地，检查另一子结点对应的区域是否与以 目标点为球心、以目标点与“当前最近点”间的距离为半径的超球体相交。如果相交，可能在另一个子结点对应的区域内存在距目标点更近的点，移动到另一个 子结点。接着，递归地进行最近邻搜索； 如果不相交，向上回退。

（4）当回退到根结点时，搜索结束。最后的“当前最近点”即为x的最近邻点。

如果实例点是随机分布的，kd树搜索的平均计算复杂度是O(logN)，这里N是训练实 例数。kd树更适用于训练实例数远大于空间维数时的k近邻搜索。当空间维数接近训练实 例数时，它的效率会迅速下降，几乎接近线性扫描

下面通过一个例题来说明搜索方法。

例3.3   给定一个如图3.5所示的kd树，根结点为A，其子结点为B，C等。树上共存储 7个实例点；另有一个输入目标实例点S，求S的最近邻。

 解 :

      首先在kd树中找到包含点S的叶结点D（图中的右下区域），以点D作为近似最 近邻。真正最近邻一定在以点S为中心通过点D的圆的内部。然后返回结点D的父结点B， 在结点B的另一子结点F的区域内搜索最近邻。结点F的区域与圆不相交，不可能有最近邻 点。继续返回上一级父结点A，在结点A的另一子结点C的区域内搜索最近邻。结点C的区 域与圆相交；该区域在圆内的实例点有点E，点E比点D更近，成为新的最近邻近似。最后 得到点E是点S的最近邻。