机器学习—决策树

     一、决策树概念

       决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。其本质上决策树是通过一系列规则对数据进行分类的过程。

       决策树方法最早产生于上世纪60年代，到70年代末。由J Ross Quinlan提出了ID3算法，此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。

二、案例：泰坦尼克号乘客生存预测

属性

pclass          票类型  1  2  2
survived        存活  1-存货 0-死亡
name            名字
age             年龄
embarked           
home.dest