超级会员免费看
本文介绍了决策树的构建过程，包括从根节点开始的自顶向下方法，特征选择依据如最大方差减少、信息增益和基尼不纯度。还讨论了决策树的局限性，如过拟合、对数据敏感，以及如何通过限制分裂层数和剪枝来应对这些问题。同时提到了随机森林作为提高模型稳定性的集成方法，虽然并行化计算不易，但通过多数投票和平均值进行分类和回归。总结中强调决策树作为可解释性强的模型，在工业界广泛应用，而集成学习如bagging和boosting可以增强其性能。
Building Decision Trees
- Use a top-down approach,staring from the root node with the set of all features
- At each parent node,pick a feature to split the examples.
- Feature selection criteria
- Maximize variance reduction for continuous target
- Maximize information gain (1-entropy) for categorical target
- Maximize Gini impurity = 1 −
- Feature selection criteria
订阅专栏 解锁全文
扫一扫
713
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
