Datawhale数据挖掘Task2
决策树
一般地,一棵决策树包含一个根节点,若干个内部结点和若干个叶节点;叶结点对应于决策结果,其他每个结点对应于一个属性测试。
信息增益
“信息熵”是度量样本集合纯度最常用的一种指标。
Ent(D)的值越小,则D的纯度越高。
一般来说,信息增益越大,意味着使用属性a来进行划分所获得的“纯度提升”越大,因此,我们可以使用信息增益来进行决策树的划分属性选择。信息增益最大,选为划分属性。
基尼指数
剪枝
去掉一些分支,降低过拟合的风险
分为预剪枝和后剪枝
连续值处理