用Excel建模进行决策树分析

       决策树(Decision Tree)在机器学习中也是比较常见的一种算法，最早的决策树算法是ID3，改善后得到了C4.5算法，进一步改进后形成了我们现在使用的C5.0算法，综合性能大幅提高。

       算法核心：为每一次分裂确定一个分裂属性。ID3采用的是“信息增益”为度量来选择分裂属性的。

       本文在Excel中建模进行决策树分析，属于基础的决策树学习，有兴趣的可以在SPSS Modeler和Python中进行操作。

树模型（又称决策树或者树结构模型）：基本思想和方差分析中的变异分解极为相似。
目的（基本原则）：将总研究样本通过某些牲（自变量取值）分成数个相对同质的子样本。每一子样本因变量的取值高度一致，相应的变异/杂质尽量落在不同子样本间。所有树模型的算法都遵循这一基本原则。
不同树模型差异：差异在于对变异/杂质的定义不同。比如P值、方差、熵、Gini指数（基尼指数）、Deviance等作为测量指标。

决策树图例

 现在我们来分析天气、温度、湿度、风这些属性对打球的影响

首先确定样本集信息熵，然后计算各个属性的信息增益进行对比分析。

熵：数据集中的不确定性、突发性或随机性的程度的