决策树 (Decision Tree) 原理简述及相关算法(ID3,C4.5)

Decision Tree 决策树：

决策树是属于机器学习监督学习分类算法中比较简单的一种，决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。 

下面来看个范例，就能很快理解了。

范例：

假设，我们有以下数据，表示当天是否回去玩高尔夫：

用决策树建立起来后，能得到这样的模型：

至此可以看出，说白了，决策树就是If()语句的层层嵌套，知道最后能总结出点什么。（原谅我实在不会描述点什么，不过看了这图应该对