随机森林模型sklearn_R包randomForest的随机森林回归模型以及对重要变量的选择

R包randomForest的随机森林回归模型以及对重要变量的选择​mp.weixin.qq.com

R包randomForest的随机森林回归模型以及对重要变量的选择

关于随机森林（random forest），前文“随机森林分类以及对重要变量的选择”中已经对其基本原理作了简单概括。在前文中，响应变量是一组类别变量（代表了样本的分组信息），此时随机森林用于执行监督分类的功能，模型的精度在于通过选定的预测变量组合将样本正确划分归类的概率。而当响应变量是一组连续变量时，可将回归森林用于回归。此时，回归模型的精度体现了选定的预测变量对响应变量数值改变有关方差的整体解释率（可以理解为回归的R2）。本篇则简介随机森林的回归功能。

文献中使用随机森林回归的一个实例

首先来看一篇与植物根系微生物组有关研究，将文中涉及到随机森林回归的部分内容节选出来以帮助大家理解。

Edwards等（2018）分析了来自两个地区（加利福尼亚州、阿肯色州）以及三个连续种植季（2014、2015、2016）的水稻根系微生物组，意在阐述水稻根系微生物群落的时间动态特征，并解释驱动微生物群落组建的成因。文中部分内容使用到随机森林的回归模型建立微生物丰度和水稻生长时期的关系，用以识别重要的时间响应微生物类群。

作者首先分析了水稻根系微生物群落的组成结构，显示其受到地理区域（土壤环境）、植物生长时期以及植物根系不同部位的多重影响。随后分析各个因素的相对效应，发现水稻生长过程中能够逐渐对其根系菌群进行选择，植物生长时期的效应越来越明显，根系菌群朝向一组保守的物种组成趋势发展，同时地理环境效应的比重逐渐减弱。主要体现在：

（1）不同地理区域种植的水稻，随着水稻生长时期的推移，根际和根内菌群的相似度逐渐增加，并在后期趋于稳定，与种植季节无关：

（2）对于水稻根际和根内菌群，地区间独特OTU的相对丰度均随时间推移而不断下降，剩余的OTU中，两地区间共有OTU的比重上升。

图A-C，水稻根系微生物群落的PCoA，分别突出了群落组成相似度与根系区域（A）、地理区域（B）或植物生长时间（C）的关系。

图D，根区、根际和根内样本中，微生物群落相似度随植物生长的关系。

总之存在一类具有显著时间特征的微生物类群，它们的丰度变化与水稻的生长时期密切相关，无论是增加（根系富集）或减少（根系排斥）。随后，作者期望寻找可用于区分水稻生长时期的微生物OTU组合，包括根际和根内菌群，就使用了随机森林。

作者选择了一部分的样本（加利福尼亚州2014年和阿肯色州2016年的部分数据）用作训练集，通过随机森林分别将根际和根内所有微生物OTU的相对丰度与水稻生长时期进行了回归，并根据各个OTU对模型预测准确性的相对贡献按重要性进行排名。十折交叉验证用于评估模型中OTU数量与模型误差的关系，并按重要性排名对OTU进行选择，删除了大部分不重要OTU后，最终保留的OTU用于构建最终的随机森林回归模型。

结果中，共确定了85个最重要的与水稻生长时期密切关联的OTU。训练集的数据显示，通过这85个OTU构建的随机森林回归模型分别解释了根际和根内菌群对植物年龄有关方差的91.5％和88.4％，表明它们的丰度组合能够准确预测水稻的生长时期。此外，测试集以及验证集数据（涉及了训练集样本外的其它采样时间、地理区域的样本）也一致地表明，通过这85个OTU构建的随机森林回归模型同样准确预测了水稻的生长时期，凸显了水稻根际和根内存在特定的微生物类群，在跨地理区域和季