回归树quick look

简介

Regression Tree：回归树
Classification And Regression Tree(CART)
用树形结构处理回归问题，每个节点都是对一个属性值的二分类。
将输入空间划分为M个单元，每个单元的值为该单元内所有样本的均值

基本方法

算法流程

自顶向下贪婪式递归，启发式搜索
TreeGenerate(D,X)

1. if 达到停止条件 then return 叶子节点（为D均值）
2. 生成节点node
3. for $x_i$ in X
   1. for s in range($x_i$)
      1. s为界，计算划分后的RSS
      2. 记录使RSS最小的s和$x_i$，记为$s_m,x_m$
4. 以$s_m,x_m$为划分依据进行划分。
5. 左孩子TreeGenerate(D \ Di ,X \ Xi), 右孩子。。。

停止条件

1. 最大深度
2. 节点样本数
3. 计算分类是否有益