树回归的介绍

        线性回归包含一些强大的方法，但这些方法创建的模型需要拟合所有的样本点（局部加权线性回归除外）。当数据拥有众多特征并且特征之间关系十分复杂时，构建全局模型的想法就显得太难了，也略显笨拙。而且，实际生活中很多问题都是非线性的，不可能使用全局线性模型来拟合任何数据。

一种可行的方法是将数据集切分成很多份易建模的数据，然后利用线性回归级数来建模。如果首次切分后仍然难以拟合线性模型就继续切分。在这种切分方式下，树结构和回归法就相当有用。

CART（Classification And Regression Trees，分类回归树）的树构建算法。该算法既可以用于分类还可以用于回归，因此非常值得学习。然后利用python来构建并显示CART树。代码会保持足够的灵活性以便能用于多个问题当中。接着，利用CART算法构建回归树并介绍其中的树剪枝技术（该技术的主要目的是防止树的过拟合）。之后引入了一个更高级的模型树算法。与回归树的做法（在每个叶节点上使用各自的均值做预测）不同，该算法需要在每个叶节点上都构建出一个线性模型。在这些树的构建算法中有一些需要调整的参数，所以还会介绍如何使用python中的Tkinter模块建立图形交互界面。最后，在该界面的辅助下分析参数对回归效果的影响。

树回归：

优点：可以对复杂和非线性的数据建模。

缺点：结果不易理解。

实用数据模型：数值型和标称型数据。

对使用ID3树构建算法的分析和评价：

        ID3的做法是每次选取当前最佳的特征来分割数据，并按照该特征的所有可能取值来切分。也就是说，如果一个特征有四种取值，那么数据将被切成4份。一旦按某特征切分后，该特征在之后的算法执行过程中将不会再起作用，所以有观点认为这种切分方式过于迅速。另外一种方法是二元切分法，即每次把数据集切成两份。如果数据的某特征值等于切分所要求的值，那么这些数据就进入树的左子树，反之则进入树的右子树。

除了切分过于迅速外，ID3算法还存在另一个问题，他不能直接处理连续型特征。只有事先将连续型特征转换成离散型，才能在ID3算法中使用。但这种转换过程会破坏连续型变量的内在性质。而使用二元切分法则易于对树构建过程进行调整以处理连续型特征。具体的处理方法是：如果特征值发育给定值就走左子树，否则就走右子树。另外，二元切分法也节省了树的构建时间，但这点意义也不是特别大，因为这些树构建一般是离线完成的，时间并非需要重点关注的因素。

CART是十分著名且广泛记载树构建算法，它使用二元切分来处理连续型变量。对CART稍作修改就可以处理回归问题。通常使用香农熵来度量集合的无组织程度。如果选用其他方法来代替香农熵，就可以使用树构建算法来完成回归。

回归树与分类树的思路类似，但叶节点的数据类型不是离散型，而是连续型。

树回归的一般方法：

（1）收集数据：采用任意方法收集数据。

（2）准备数据：需要数值型的数据，标称型数据应该映射成二值型数据。

（3）分析数据：绘出数据的二维可视化显示结果，以字典方式生成树。

（4）训练算法：大部分时间都花费在叶节点树模型的构建上。

（5）测试算法：使用测试数据上的R^2值来分析模型的效果。

（6）使用算法：使用训练出的树做预测，预测结果还可以用来做很多事情