C4.5是另一个分类决策树算法,基于ID3算法进行改进,相比于ID3算法有如下几个要点:
- 用信息增益率来选择属性。ID3选择属性用的是子树的信息增益,ID3使用的是熵(entropy, 熵是一种不纯度度量准则),也就是熵的变化值,而C4.5用的是信息增益率。
- 在决策树构造过程中进行剪枝,因为某些具有很少元素的结点可能会使构造的决策树过适应(Overfitting),如果不考虑这些结点可能会更好。
- 对非离散数据也能处理。
C4.5是另一个分类决策树算法,基于ID3算法进行改进,相比于ID3算法有如下几个要点: