随机森林进行特征重要性度量的详细说明

http://mingyang5.chinanorth.cloudapp.chinacloudapi.cn:8888

特征选择方法中,有一种方法是利用随机森林,进行特征的重要性度量,选择重要性较高的特征。下面对如何计算重要性进行说明。


1 特征重要性​度量


计算某个特征X的重要性时,具体步骤如下:


1)对每一颗决策树,选择相应的袋外数据(out of bag,OOB)​计算袋外数据误差,记为errOOB1.


所谓袋外数据是指,每次建立决策树时,通过重复抽样得到一个数据用于训练​决策树,这时还有大约1/3的数据没有被利用,没有参与决策树的建立。这部分数据可以用于对决策树的性能进行评估,计算模型的预测错误率,称为袋外数据误差。


这已经经过证明是无偏估计的,所以在随机森林算法中不需要再进行交叉验证或者单独的测试集来获取测试集误差的无偏估计。


​2)随机对袋外数据OOB所有样本的特征X加入噪声干扰(可以随机改变样本在特征X处的值),再次计算袋外数据误差,记为errOOB2。


3)​假设森林中有N棵树,则特征X的重要性=∑(errOOB2-errOOB1)/N。这个数值之所以能够说明特征的重要性是因为,如果加入随机噪声后,袋外数据准确率大幅度下降(即errOOB2上升),说明这个特征对于样本的预测结果有很大影响,进而说明重要程度比较高。


​2 特征选择


在特征重要性的基础上,特征选择的步骤如下:


1)计算每个特征的重要性,并按降序排序


2)确定要剔除的比例,依据特征重要性剔除相应比例的特征,得到一个新的特征集


3)用新的特征集重复上述过程,直到剩下m个特征(m为提前设定的值)。


4)根据上述过程中得到的各个特征集和特征集对应的袋外误差率,选择袋外误差率最低的特征集。​



展开阅读全文

没有更多推荐了,返回首页