第3章 k近邻法

3.1 k近邻算法

简单而言：与x最邻近第k个点，在这k个点中找出最多个数点，则x属于最多点属于的类

3.2  k近邻模型

1）k值的选择

     一般选一个比较小的数值，通常采用交叉验证法选取最优k值

2）分类决策规则

     多数表决规则，等价于经验风险最小化

3.3 k近邻法的实现：kd树

1）构造kd树

      见例3.2：选择维度分隔

2） 搜索kd树

      见例3.3：找到一个叶子节点，画圆，再由下向上，由上向下找有没有在圆内的点