随机森林算法_从零实现机器学习算法(十八)随机森林

随机森林算法通过构建多棵决策树并结合boostrap抽样方法提升模型效果。每棵树的训练样本用boostrap方法随机抽取,约1/3数据未被抽中,形成袋外误差用于评估模型性能。随机森林的回归结果是各树回归值的均值,分类则是多数投票原则。该算法适用于高维数据,但可能在某些问题上过拟合。
摘要由CSDN通过智能技术生成

1bfe55940f4177eb2a904d3fc6064d22.png

1. 随机森林算法简介

前面我们知道决策树算法通过从决策树根节点开始,对待检测样本的某一个特征进行测试,根据测试结果转向左子树或者右子树,如此递归达到停止条件,叶节点所表示的类别,就是决策树对该样本的预测结果。有的时候单一的决策树并不能够起到较好的效果,因此需要建立多棵决策树来提升模型效果。但是如果对于每一棵树都使用全部的样本进行训练,那么最终得到的树都是一模一样的。因此引入boostrap方法来生成每棵树的训练样本,boostrap是一种随机又放回的抽样,这也是随机森林中“随机”的由来。至于森林,生成的多棵决策树通过一定的规则组合起来就形成了最终的模型。

d837756c1595aa32f2efb2065e9d365d.png

2. 随机森林模型

boostrap方法

boostrap方法是Efron在20世纪70年代后期建立的一种抽样方法,其抽样方法为:假设已有一个容量为

的来自分布
<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值