机器学习----随机森林 (Random Forest)算法原理及python实现

随机森林是一个高度灵活的机器学习方法，利用多个决策树对样本进行训练、分类并预测，主要应用于回归和分类场景。在以决策树为基学习器构建Bagging集成的基础上，进一步在决策树的训练过程中引入了随机属性选择（即引入随机特征选择）。

简单来说，随机森林就是对决策树的集成，但随机森林中决策树的分类特征是在所有特征中随机选择的。

随机森林中有许多的分类树。我们要将一个输入样本进行分类，我们需要将输入样本输入到每棵树中进行分类，森林中的每棵树都是独立的，学习器根据每棵树的预测结果来得出最终的结果，99.9%不相关的树做出的预测结果涵盖所有的情况，这些预测结果将会彼此抵消。

此处代码为参考其他大佬的，没有特别理解，不作赘述：

#随机森林

from sklearn.tree import DecisionTreeRegressor
from sklearn.ensemble import RandomForestRegressor
import numpy as np

from sklearn.datasets import load_iris
iris=load_iris()
#print iris#iris的４个属性是：萼片宽度　萼片长度　花瓣宽度　花瓣长度　标签是花的种类：setosa versicolour virginica
print(iris['target'].shape)
rf=RandomForestRegressor()#这里使用了默认的参数设置
rf.fit(iris.data[:150],iris.target[:150])#进行模型的训练
#

#随机挑选两个预测不相同的样本
instance=iris.data[[100,109]]
print(instance)
rf.predict(instance[[0]])
print('instance 0 prediction；',rf.predict(instance[[0]]))
print( 'instance 1 prediction；',rf.predict(instance[[1]]))
print(iris.target[100],iris.target[109])