统计学习方法之决策树

1.前言

           你要是愿意流浪，我陪你到海角天边；你如果想要安顿，我便日出日落柴米油盐；你是我想捧在手心里，一直都看不够的小紫罗兰。我觉得我已经幸福的过了头，当你在我的梦中出现的时候；前一生我不小心用石头砸到了你的头，所以这一辈子你就像石头一样敲碎我的心。但是守候一颗石头的快乐，却使我笑成了个傻子；此段纯属废话 ，不用理会；

2.决策树

         决策树的思想是使用树的形式来还原特征和类别之间的关系，树根和树杈表示的是特征，树叶表示的是类别；当我们树生成之后，每一组新的特征便可以沿着树找到自己对应的分类；达到最终实现分类的目的；下图是为我从别处盗过来的一张图，描述了拥有房产、是否结婚、月输入几个维度对于贷款偿还能力的影响；

         

              我们考虑如何根据第一幅图中的数据生成下面这么一棵树，整体流程就是不断找用来分类的特征，生成子节点，直到结束；先解释一些名词图中第一个圆圈是整棵树开始的节点叫做根节点，后面的圆圈都叫做内部节点，方框的节点是用来分类的叫做叶子节点；

              随便的画一棵树太简单了，但这那样的