12-分类算法-决策树、随机森林

决策树

生活中的决策树模型：

显然：判断依据的重要性从前往后越来越小

信息的度量和作用

在不知道任何信息的情况下猜测32支球队中的冠军：如果用二分法，需要猜5次，即需要的代价为5bit，这个5bit我们称之为信息熵（H）
5 = -(1/32log(1/32) + 1/32log(1/32) + … + 1/32log(1/32))

公式：概率log概率 之和

如果我们知道了一些球队的信息，需要的代价会小于5bit
5 > -(1/4log(1/32) + 1/8log(1/32) + … + 1/24log(1/32))

信息熵越大(比如，当每个球队的夺冠几率相等)，不确定性越大

结合决策数，之所以我们先对某些条件进行判断，是因为能够减少我们更多的不确定性

决策树的划分依据——信息增益

信息增益：当得知一个条件之后，减少的信息熵的大小

常见决策树使用的算法

• ID3：信息增益 最大的准则
• C4.5：信息增益比 最大的准则
• CART
  • 回归树: 平方误差 最小
  • 分类树: 基尼系数 最小的准则 在sklearn中可以选择划分的默认原则。基尼系数的划分比信息增益更加仔细

决策树的api

案例：泰坦尼克号乘客生存状态

在泰坦尼克号和titanic2数据帧描述泰坦尼克号上的个别乘客的生存状态。在泰坦尼克号的数据帧不包含从剧组信息，但它确实包含了乘客的一半的实际年龄。关于泰坦尼克号旅客的数据的主要来源是百科全书Titanica。这里使用的数据集是由各种研究人员开始的。其中包括许多研究人员创建的旅客名单，由Michael A. Findlay编辑。
我们提取的数据集中的特征是票的类别，存活，乘坐班，年龄，登陆，home.dest，房间，票，船和性别。乘坐班是指乘客班（1，2，3），是社会经济阶层的代表。
其中age数据存在缺失。

import pandas as pd
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.tree import export_graphviz
def decision():
    """
    决策树对泰坦尼克进行预测生死
    :return: None
    """
    #获取数据
    taitan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
    #处理数据，找出特征值和目标值
    x = taitan[['pclass', 'age', 'sex']]
    y = taitan[['survived']]
    print(x)
    #缺失值处理
    x['age'].fillna(x['age'].mean(), inplace=True)
    #分割数据集到训练集和测试集
    x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)

    #进行处理（特征工程）：当特征是类别的信息需要进行one-hot编码
    dict = DictVectorizer(sparse=False)
    x_train = dict.fit_transform(x_train.to_dict(orient="records")) #to_dict的参数，把一行转换成一个字典
    print(dict.get_feature_names())
    x_test = dict.fit_transform(x_test.to_dict(orient="records"))
    print(x_train)

    #用决策树进行预测
    dec = DecisionTreeClassifier(max_depth=5)   #参数限定决策树的深度
    dec.fit(x_train, y_train)
    print("预测的准确率为：",dec.score(x_test, y_test))

    #导出决策树的结构
    export_graphviz(dec, out_file="./tree.dot", feature_names=['年龄', 'pclass=1st', 'pclass=2nd', 'pclass=3rd', '女性', '男性'])
    #导出的文件用Graphviz打开
    return None

if __name__ == "__main__":
    decision()

决策树部分图例：

决策树的优缺点以及改进

优点：

• 简单理解和解释，数目可视化
• 需要很少的数据准备，其他技术通常需要数据归一化

缺点：

• 决策树学习者可以创建不能很好地推广数据的过于复杂的树，这被称为过拟合

改进：

• 减枝cart算法：如果是用sklearn，在DecisionTreeClassifier中指定超参数即可
• 随机森林：准确率非常高

集成学习方法

集成学习通过建立几个模型组合的来解决单一预测问题。它的工作原理是生成多个分类器/模型，各自独立地学习和作出预测。这些预测最后结合成单预测，因此优于任何一个单分类的做出预测。

随机森林是一个包含多个决策树的分类器，并且其输出的类别是由个别树输出的类别的众数而定。

随机森林建立多个决策树的过程：

1. 单个决策树的建立过程：

   • 随机在N个样本当中选择一个样本，重复N次 可能重复
   • 随机在M个特征中选出m个特征

2. 建立多颗决策树，样本、特征大多不一样 随机有放回的抽样，称bootstrap抽样

ps：为什么要随机抽样？避免每颗树的训练集的一样，那么最终训练出的上面的分类结果也是完全一样的

• 随机森林的api
  

随机森林案例：

import pandas as pd
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV
def randomforest():
    """
    随机森林对泰坦尼克进行预测生死
    :return: None
    """
    #获取数据
    taitan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
    #处理数据，找出特征值和目标值
    x = taitan[['pclass', 'age', 'sex']]
    y = taitan[['survived']]
    print(x)
    #缺失值处理
    x['age'].fillna(x['age'].mean(), inplace=True)
    #分割数据集到训练集和测试集
    x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)

    #进行处理（特征工程）：当特征是类别的信息需要进行one-hot编码
    dict = DictVectorizer(sparse=False)
    x_train = dict.fit_transform(x_train.to_dict(orient="records")) #to_dict的参数，把一行转换成一个字典
    print(dict.get_feature_names())
    x_test = dict.fit_transform(x_test.to_dict(orient="records"))
    print(x_train)
    rf = RandomForestClassifier()
    #网格搜索与交叉验证
    param = {"n_estimators":[120, 200, 300, 500, 800, 1200], "max_depth":[5, 8, 15, 25, 30]}
    gc = GridSearchCV(rf, param_grid=param, cv=5)
    gc.fit(x_train, y_train)
    print("预测的准确率为：", gc.score(x_test, y_test))
    print("查看选择的参数模型：", gc.best_estimator_)
    print("最佳的参数：", gc.best_params_)
    #注意：随机森林的图不支持导出
    return None

if __name__ == "__main__":
    randomforest()

随机森林的优点：

• 在当前所有算法中，具有极好的准确率
• 能够有效地运行在大数据集上（大体现在样本数和特征数两方面）
• 能够处理具有高维特征的输入样本，而且不需要降维
• 能够评估各个特征在分类问题上的重要性
• 对于缺省值问题也能够获得很好得结果

随机森林几乎没有缺点