3.1参照图3.1,在二维空间中给出实例点,画出k为1和2时的k近邻法构成的空间划分,并对其进行比较,体会k值选择与模型复杂度及预测准确率的关系。
k=1比较好理解,就是各自为政,自己有自己的一块区域,书上的图3.1即为k=1时,两个或多个点互相连接找连接线中垂线,以中垂线划分区域;
而k=2也是找垂线但是垂线互相交叉,划分多个区域找区域相近的两个点一个单元,如下图中的区域AB为AB近邻但与A更近,这样可以推广为多个点
k=3可能在二维点上无法划分,可能需要在三维上去画图
3.2利用例题3.2构造的kd树求点x=(3,4.5)^T的最近邻点。
x = (x0,x1)= (3,4.5)依照算法3.3步骤:
1.从根节点(7,2)比较x0值,将输入分在左边节点(5,4),即左边的矩形区域
2.在节点(5,4)比较x1的值,输入走右边,到叶节点(4,7)通过欧氏距离算距离2.69,记录“当前最近节点”(4&