机器学习算法基础5--决策树与随机森林

目录

 

决策树

决策树的实际划分

信息熵

信息增益

常见决策树使用的算法

泰坦尼克号乘客生存分类模型

泰坦尼克号数据

步骤

决策树的结构、本地保存

随机森林

集成学习方法

学习算法

集成学习API

随机森林的优点

---

决策树

决策树：程序设计中的条件分支结构就是if-then结构，最早的决策树就是利用这类结构分割数据的一种分类学习方法。

决策树的实际划分

猜谁是冠军？假设有32支球队

32支球队，log(2为底，对数为32)=5比特

64支球队，log(2为底，对数为64)=6比特

 

信息熵

“谁是世界杯冠军”的信息量应该比5比特少。香农指出，它的准确信息量应该是：

H = -(p1logp1 + p2logp2 + ... + p32log32)

信息和消除不确定性是相联系的,信息熵越大，不确定性越大。

信息增益

定义：当得知一个特征条件后，减少的信息熵的大小。

特征A对训练数据集D的信息增益g(D,A),定义为集合D的信息熵H(D)与特征A给定条件下D的信息条件熵H(D|A)之差，即公式为

注意log以2为底数

常见决策树使用的算法

•ID3

信息增益 最大的准则

•C4.5

信息增益比 最大的准则

•CART

回归树: 平方误差 最小

分类树: 基尼系数(划分更加仔细)， 最小的准则 在sklearn中可以选择划分的默认原则

sklearn决策树API

• class  sklearn.tree.DecisionTreeClassifier ( criterion=’ gini ’ ,  max_depth = None , random_state =None )

• 决策树分类器

• criterion: 默认是 ’ gini ’ 系数，也可以选择信息增益的熵 ’entropy’

• max_depth : 树的深度大小

• random_state : 随机数种子

•

• method:

• decision_path : 返回决策树的路径

 

泰坦尼克号乘客生存分类模型

泰坦尼克号数据

在泰坦尼克号和titanic2数据帧描述泰坦尼克号上的个别乘客的生存状态。在泰坦尼克号的数据帧不包含从剧组信息，但它确实包含了乘客的一半的实际年龄。关于泰坦尼克号旅客的数据的主要来源是百科全书Titanica。这里使用的数据集是由各种研究人员开始的。其中包括许多研究人员创建的旅客名单，由Michael A. Findlay编辑。

我们提取的数据集中的特征是票的类别，存活，乘坐班，年龄，登陆，home.dest，房间，票，船和性别。乘坐班是指乘客班（1，2，3），是社会经济阶层的代表。

其中age数据存在缺失。

步骤

1、pd读取数据

2、选择有影响的特征，处理缺失值

3、进行特征工程，pd转换字典，特征抽取

x_train.to_dict(orient="records")

4、决策树估计器流程

导入字典特征抽取

from sklearn.feature_extraction import DictVectorizer

  """
    决策树对泰坦尼克号进行预测生死
    :return: None
    """
    # 网页上获取数据
    titan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")

    # 处理数据，找出特征值和目标值
    x = titan[['pclass', 'age', 'sex']]

    y = titan['survived']

    print(x)
    # 缺失值处理
    x['age'].fillna(x['age'].mean(), inplace=True)

    # 分割数据集到训练集合测试集
    x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)

    # 进行处理（特征工程）特征-》类别-》one_hot编码
    dict = DictVectorizer(sparse=False)

 

把样本转化为字典，默认一行转化为一个字典

    x_train = dict.fit_transform(x_train.to_dict(orient="records"))

    print(dict.get_feature_names())

    x_test = dict.transform(x_test.to_dict(orient="records"))
    print(x_train)

用决策树进行预测

导包

from sklearn.tree import DecisionTreeClassifier

#     用决策树进行预测
    dec = DecisionTreeClassifier()#实例化 （超参数）
    
    dec.fit(x_train, y_train)
    
    # 预测准确率
    print("预测的准确率：", dec.score(x_test, y_test))

决策树的结构、本地保存

1、sklearn.tree.export_graphviz() 该函数能够导出DOT格式

tree.export_graphviz(estimator,out_file='tree.dot’,feature_names=[‘’,’’])

2、工具:(能够将dot文件转换为pdf、png)

安装graphviz

ubuntu:sudo apt-get install graphviz       Mac:brew install graphviz

3、运行命令

然后我们运行这个命令

$ dot -Tpng tree.dot -o tree.png

在tree里导入, export_graphviz

from sklearn.tree import DecisionTreeClassifier, export_graphviz

工具:(能够将dot文件转换为pdf、png)

安装graphviz

ubuntu:sudo apt-get install graphviz                    Mac:brew install graphviz

运行命令

然后我们运行这个命令

$ dot -Tpng tree.dot -o tree.png

 

随机森林

集成学习方法

集成学习通过建立几个模型组合的来解决单一预测问题。它的工作原理是生成多个分类器/模型，各自独立地学习和作出预测。这些预测最后结合成单预测，因此优于任何一个单分类的做出预测。

同理，在机器学习中，多个决策树的分类器结合在一起，就组成了一个随机森林，并且其输出的类别是由个别树输出的类别的众数而定。

例如, 如果你训练了5个树, 其中有4个树的结果是True, 1个数的结果是False, 那么最终结果会是True.

随机森林建立多个决策树的过程

  (N个样本，M个特征)单个树的建立过程：

1.随机在N个样本中选择一个样本，重复N次，样本有可能重复。

2.随机在M个特征中选出m个特征，m取值

建立10棵决策树，样本，特征大多不一样   随机有放回的抽样 bootstrap抽样

学习算法

根据下列算法而建造每棵树：

• 用 N 来表示训练用例（样本）的个数， M 表示特征数目。

• 输入特征数目 m ，用于确定决策树上一个节点的决策结果；其中 m 应远小于 M 。

• 从 N 个训练用例（样本）中以 有放回抽样 的方式，取样 N 次，形成一个训练集（即 bootstrap 取样），并用未抽到的用例（样本）作预测，评估其误差。

 

•为什么要随机抽样训练集？　

　如果不进行随机抽样，每棵树的训练集都一样，那么最终训练出的树分类结果也是完全一样的。

•为什么要有放回地抽样？

如果不是有放回的抽样，那么每棵树的训练样本都是不同的，都是没有交集的，这样每棵树都是“有偏的”，都是绝对“片面的”（当然这样说可能不对），也就是说每棵树训练出来都是有很大的差异的；而随机森林最后分类取决于多棵树（弱分类器）的投票表决。

集成学习API

• class  sklearn.ensemble.RandomForestClassifier ( n_estimators =10 ,  criterion=’ gini ’ ,

 max_depth=None, bootstrap=True, random_state=None)

• 随机森林分类器

• n_estimators ： integer ， optional （ default = 10 ） 森林里的树木数量

• criteria ： string ，可选（ default =“ gini ” ）分割特征的测量方法

• max_depth ： integer 或 None ，可选（默认 = 无）树的最大深度

• bootstrap ： boolean ， optional （ default = True ）是否在构建树时使用放回抽样

 

随机森林进行预测 （超参数调优）

导包

from sklearn.ensemble import RandomForestClassifier

   # 随机森林进行预测 （超参数调优
    rf = RandomForestClassifier()

    param = {"n_estimators": [120, 200, 300, 500, 800, 1200], "max_depth": [5, 8, 15, 25, 30]}

网格搜索与交叉验证

 # 网格搜索与交叉验证
    gc = GridSearchCV(rf, param_grid=param, cv=2)

    gc.fit(x_train, y_train)

    print("准确率：", gc.score(x_test, y_test))

    print("查看选择的参数模型：", gc.best_params_)

    return None

随机森林的优点

• 在当前所有算法中，具有极好的准确率

• 能够有效地运行在大数据集上

• 能够处理具有高维特征的输入样本，而且不需要降维

• 能够评估各个特征在分类问题上的重要性

• 对于缺省值问题也能够获得很好得结果