机器学习之决策树和随机森林实践

一、决策树过拟合、剪枝以及评价

决策树拟合：
决策树对训练属于有很好的分类能力，但对未知的测试数据未必有好的分类能力，泛化能力弱，即可能发生过拟合现象；
决策树过拟合解决办法：剪枝，随机森林；
决策树剪枝：
决策树剪枝思路：

剪枝系数：

剪枝算法：

二、随机森林

BootStraping策略:

随机森林定义：
随机森林在bagging基础上做了修改：
1、从样本集中用Bootstrap采样选出n个样本；
2、从所有属性中随机选择k个属性，选择