决策树回归VS回溯

决策树是一个通过特征学习决策规则，用于预测目标的监督机器学习模型。顾名思义，该模型通过提出一系列的问题将数据进行分解，从而做出决策。 同时，决策树是通过递归拆分构成的——先从根节点开始（也称为父节点），将每个节点分为左右子节点。这些节点可以再进一步分裂成其 节点。

回归决策树主要指CART(classification and regression tree)算法，内部结点特征的取值为“是”和“否”， 为二叉树结构。 所谓回归，就是根据特征向量来决定对应的输出值。回归树就是将特征空间划分成若干单元，每一个划分单元有一个特定的输出。因为每个结点都是“是”和“否”的判断，所以划分的边界是平行于坐标轴的。对于测试数据，我们只要按照特征将其归到某个单元，便得到对应的输出值。

回溯法是一种选优搜索方法，按选优条件向前搜索，用于达到目标。但当探索到某一步时，发现之前的选择并不优、达不到目标，就退回去重新选择，这种走不通就退回再走的技术为回溯法，而满足回溯条件的某个状态的点称为“回溯点”。许多困难的，规模较大的问题都可以使用回溯法，有“通用解题方法”的美称。