随机森林的原理分析及Python代码实现

转载地址：https://blog.csdn.net/flying_sfeng/article/details/64133822/

在讲随机森林前，我先讲一下什么是集成学习。集成学习通过构建并结合多个分类器来完成学习任务。集成学习通过将多个学习器进行结合，常可获得比单一学习器更好的泛化性能。

考虑一个简单例子：在二分类任务中，假定三个分类器在三个测试样本上的表现如下图，其中√表示分类正确，×表示分类错误，集成学习的结果通过投票法产生，即“少数服从多数”。如下图，在（a）中，每个分类器都只有66.6%的精度，但集成学习却达到了100%；在（b）中，三个分类器没有差别，集成之后性能没有提高；在(c)中，每个分类器的精度都只有33.3%，集成学习的结果变得更糟。这个简单地例子显示出：要获得好的集成，个体学习器应“好而不同”，即个体学习器要有一定的“准确性”，即学习器不能太差，并且要有“多样性”，即学习器间具有差异。

 

根据个体学习器的生成方式，目前的集成学习方法大致可分为两大类，即个体学习器之间存在强依赖关系，必须串行生成的序列化方法，以及个体学习器间不存在强依赖关系，可同时生成的并行化方法；前者的代表是Boosting，后者的代表是Bagging和“随机森林”（Random Forest）

Bagging与随机森林

要得到泛化性能强的集成，集成中的个体学习器应尽可能相互独立，虽然这在现实任务中很难做到，但我们可以设法使基学习器尽可能具有较大的差异。

在我的实验中，使用“自助采样法”：给定包含m个样本的数据集，我们先随机取出一个样本放入采样集中，再把该样本放回初始数据集，使得下次采样时该样本仍有可能被选中，这样，经过m次随机操作，我们得到含m个样本的采样集，初始训练集中有的样本在采样集里多次出现，有的则从未出现。

按照这种方法，我们可以采样出T个含m个训练样本的采样集，然后基于每个采样集训练处一个基学习器，再将这些基学习器进行结合，这就是Bagging的基本流程。在对预测输出进行结合时，Bagging通常对分类任务使用简单投票法，对回归任务使用简单平均法。

随机森林是Bagging的一个扩展。随机森林在以决策树为基学习器构建Bagging集成的基础上，进一步在决策树的训练过程中引入了随机属性选择（即引入随机特征选择）。传统决策树在选择划分属性时时在当前节点的属性集合（假定有d个属性）中选择一个最优属性；而在随机森林中，对基决策树的每个节点，先从该节点的属性集合中随机选择一个包含k个属性的子集，然后再从这个子集中选择一个最优属性用于划分。这里的参数k控制了随机性的引入程度：若令k=d,则基决策树的构建与传统决策树相同；若令k=1，则是随机选择一个属性进行划分。

在这篇文章中，我们只讲随机森林的分类部分。随机森林用于分类时，即采用n个决策树分类，将分类结果用简单投票法得到最终分类，提高分类准确率。

对于决策树不太了解的童鞋，可以看我的上一篇博客：决策树原理及Python代码实现

简单来说，随机森林就是对决策树的集成，但有两点不同：

（1）采样的差异性：从含m个样本的数据集中有放回的采样，得到含m个样本的采样集，用于训练。这样能保证每个决策树的训练样本不完全一样。

（2）特征选取的差异性：每个决策树的n个分类特征是在所有特征中随机选择的（n是一个需要我们自己调整的参数）

随机森林需要调整的参数有：

（1）    决策树的个数

（2）    特征属性的个数

（3）    递归次数（即决策树的深度）

 

下面，讲一下如何用代码实现随机森林。

代码实现流程：

（1）    导入文件并将所有特征转换为float形式

（2）    将数据集分成n份，方便交叉验证

（3）    构造数据子集（随机采样），并在指定特征个数（假设m个，手动调参）下选取最优特征

（4）    构造决策树

（5）    创建随机森林（多个决策树的结合）

（6）    输入测试集并进行测试，输出预测结果

 

（1）    导入文件并将所有特征转换为float形式

[python]  view plain  copy

1. #加载数据  
2. def loadCSV(filename):  
3.     dataSet=[]  
4.     with open(filename,'r') as file:  
5.         csvReader=csv.reader(file)  
6.         for line in csvReader:  
7.             dataSet.append(line)  
8.     return dataSet  
9.   
10. #除了判别列，其他列都转换为float类型  
11. def column_to_float(dataSet):  
12.     featLen=len(dataSet[0])-1  
13.     for data in dataSet:  
14.         for column in range(featLen):  
15.             data[column]=float(data[column].strip())  

（2）    将数据集分成n份，方便交叉验证

[python]  view plain  copy

1. #将数据集分成N块，方便交叉验证  
2. def spiltDataSet(dataSet,n_folds):  
3.     fold_size=int(len(dataSet)/n_folds)  
4.     dataSet_copy=list(dataSet)  
5.     dataSet_spilt=[]  
6.     for i in range(n_folds):  
7.         fold=[]  
8.         while len(fold) < fold_size:   #这里不能用if，if只是在第一次判断时起作用，while执行循环，直到条件不成立  
9.             index=randrange(len(dataSet_copy))  
10.             fold.append(dataSet_copy.pop(index))  #pop() 函数用于移除列表中的一个元素（默认最后一个元素），并且返回该元素的值。  
11.         dataSet_spilt.append(fold)  
12.     return dataSet_spilt  

（3）    构造数据子集（随机采样），并在指定特征个数（假设m个，手动调参）下选取最优特征

[python]  view plain  copy

1. #构造数据子集  
2. def get_subsample(dataSet,ratio):  
3.     subdataSet=[]  
4.     lenSubdata=round(len(dataSet)*ratio)  
5.     while len(subdataSet) < lenSubdata:  
6.         index=randrange(len(dataSet)-1)  
7.         subdataSet.append(dataSet[index])  
8.     #print len(subdataSet)  
9.     return subdataSet  
10.   
11. #选取任意的n个特征，在这n个特征中，选取分割时的最优特征  
12. def get_best_spilt(dataSet,n_features):  
13.     features=[]  
14.     class_values=list(set(row[-1] for row in dataSet))  
15.     b_index,b_value,b_loss,b_left,b_right=999,999,999,None,None  
16.     while len(features) < n_features:  
17.         index=randrange(len(dataSet[0])-1)  
18.         if index not in features:  
19.             features.append(index)  
20.     #print 'features:',features  
21.     for index in features:  
22.         for row in dataSet:  
23.             left,right=data_spilt(dataSet,index,row[index])  
24.             loss=spilt_loss(left,right,class_values)  
25.             if loss < b_loss:  
26.                 b_index,b_value,b_loss,b_left,b_right=index,row[index],loss,left,right  
27.     #print b_loss  
28.     #print type(b_index)  
29.     return {'index':b_index,'value':b_value,'left':b_left,'right':b_right}  

（4）    构造决策树

[python]  view plain  copy

1. #构造决策树  
2. def build_tree(dataSet,n_features,max_depth,min_size):  
3.     root=get_best_spilt(dataSet,n_features)  
4.     sub_spilt(root,n_features,max_depth,min_size,1)   
5.     return root  

（5）    创建随机森林（多个决策树的结合）

[python]  view plain  copy

1. #创建随机森林  
2. def random_forest(train,test,ratio,n_feature,max_depth,min_size,n_trees):  
3.     trees=[]  
4.     for i in range(n_trees):  
5.         subTrain=get_subsample(train,ratio)  
6.         tree=build_tree(subTrain,n_features,max_depth,min_size)  
7.         #print 'tree %d: '%i,tree  
8.         trees.append(tree)  
9.     #predict_values = [predict(trees,row) for row in test]  
10.     predict_values = [bagging_predict(trees, row) for row in test]  
11.     return predict_values  

（6）    输入测试集并进行测试，输出预测结果

[python]  view plain  copy

1. #预测测试集结果  
2. def predict(tree,row):  
3.     predictions=[]  
4.     if row[tree['index']] < tree['value']:  
5.         if isinstance(tree['left'],dict):  
6.             return predict(tree['left'],row)  
7.         else:  
8.             return tree['left']  
9.     else:  
10.         if isinstance(tree['right'],dict):  
11.             return predict(tree['right'],row)  
12.         else:  
13.             return tree['right']  
14.    # predictions=set(predictions)  

对以上代码的一点总结：

训练部分：假设我们取dataset中的m个feature来构造决策树，首先，我们遍历m个feature中的每一个feature，再遍历每一行，通过spilt_loss函数（计算分割代价）来选取最优的特征及特征值，根据是否大于这个特征值进行分类（分成left,right两类），循环执行上述步骤，直至不可分或者达到递归限值（用来防止过拟合），最后得到一个决策树tree。

测试部分：对测试集的每一行进行判断，决策树tree是一个多层字典，每一层为一个二分类，将每一行按照决策树tree中的分类索引index一步一步向里层探索，直至不出现字典时探索结束，得到的值即为我们的预测值。

附上：随机森林完整代码 

编程环境：Python2.7

参考：

《机器学习》作者：周志华

从头开始：用Python实现随机森林算法