随机森林特征重要性计算_R语言随机森林模型中具有相关特征的变量重要性

这篇博客探讨了在随机森林模型中,当存在相关特征时如何理解变量的重要性的挑战。通过实例展示了相关特征如何影响变量重要性值的稳定性,并提出在逐步删除特征过程中观察的重要性可能更为直观。
摘要由CSDN通过智能技术生成

原文链接:

http://tecdat.cn/?p=13546​tecdat.cn

变量重要性图是查看模型中哪些变量有趣的好工具。由于我们通常在随机森林中使用它,因此它看起来非常适合非常大的数据集。大型数据集的问题在于许多特征是“相关的”,在这种情况下,很难比较可变重要性图的值的解释。例如,考虑一个非常简单的线性模型

在这里,我们使用一个随机森林的特征之间的关系模型,但实际上,我们考虑另一个特点-不用于产生数据-

,即相关

。我们考虑这三个特征的随机森林

为了获得更可靠的结果,我生成了100个大小为1,000的数据集。


  1. library(mnormt)

  2. RF=randomForest(Y~.,data=db)

  3. plot(C,VI[1,],type="l",col="red")

  4. lines(C,VI[2,],col="blue")

  5. lines(C,VI[3,],col="purple")

06fad2da8fb0d08b3f0db905fe1d49e7.png

顶部的紫色线是的可变重要性值

,该值相当稳定(作为一阶近似值,几乎恒定)。红线是的变量重要

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值