第四章 决策树
人类面临决策过程时,就是用树的思维来解决的问题。决策树的目的是产生一个泛化能力强的树。
原理:
根节点-à子节点(属性,feature)à叶节点(决策结果)
每个叶节点的得到都是通过一个决策过程实现的。
在三种情况下,根节点或者是子节点会转化成叶节点:
- 没有属性可以划分了,或者是所有样本在属性上取值相同
- 当前节点下,所有样本属于一个类别了
- 没有符合当前节点属性的样本了
决策树实现过程:(伪代码)
输入:训练集d,属性集a。
1生成节点
2 if d中样本全部属于同一个类别