一张图看懂决策树

一些问题
如果训练集有100万个实例，训练决策树大致的深度是多少？

• 通常来说，二元决策树训练到最后大体都是平衡的，如果不加以限制，最后平均每个叶节点一个实例。因此，如果训练集包含100万个实例，那么决策树的深度为20层。（实际上会更多一些，因为决策树通常不可能完美平衡。）

通常来说，子节点的基尼不纯度是高于还是低于其父节点?是通常更高/更低？还是永远更高/更低？

• 一个节点的基尼不纯度通常比其父结点低。CART算法分类每个节点的方法，就是使其子节点的基尼不纯度的加权之和最小。但是，如果一个子节点的不纯度远小于另一个，那么也有可能使子节点的基尼不纯度比起父节点高。

如果决策树对训练集欠拟合，尝试缩放输入特征是否为一个好主意？

• 决策树的优点之一就是他们不关心训练数据，是缩放还是集中。所以如果决策树不适合训练集，缩放输入特征，不过是浪费时间罢了。

快速入门版本
快速回顾版本