西瓜书---读书笔记4 决策树

第四章 决策树

人类面临决策过程时，就是用树的思维来解决的问题。决策树的目的是产生一个泛化能力强的树。

原理：

根节点-à子节点（属性，feature）à叶节点（决策结果）

每个叶节点的得到都是通过一个决策过程实现的。

在三种情况下，根节点或者是子节点会转化成叶节点：

• 没有属性可以划分了，或者是所有样本在属性上取值相同
• 当前节点下，所有样本属于一个类别了
• 没有符合当前节点属性的样本了

 

决策树实现过程：（伪代码）

输入：训练集d，属性集a。

1生成节点

2 if d中样本全部属于同一个类别