2021-12-02 决策树(二)

第七章——决策树(二)

7.3 决策树的过拟合
7.4 对于连续变量和回归的决策树

7.3 决策树的过拟合

1、决策树表现与节点数目的之间的关系

  • 防止过拟合的方案:当一个叶节点里包含的所有样本都属于同一个类别、或者特征都一样时可以停止分裂。
  • 决策树过拟合:在训练数据上表现的很好,但放到测试数据就表现得很糟糕。
  • 减少过拟合现象:决策树越简单、节点越少越好(模型复杂度低)。

2、用于防止过拟合的方案

  • 直接减少节点个数在实际操作中不易实现,因为决策树的构建过程是递归的过程。
  • 避免决策树过拟合的方法:
    (1)设置树的最大深度(maximun depth);
    (2)当叶节点里的样本个数少于阈值时停止分裂,不过具体阈值的多少要取决于交叉验证的结果;

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值