决策树练习

已于 2022-07-15 08:59:55 修改
阅读量4.8k 收藏 4
点赞数 2
分类专栏： 数据挖掘 文章标签： python 数据挖掘
于 2021-10-16 17:21:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_53598445/article/details/120800357
版权

数据预处理分析，最后面附有决策树算法的实现
原始数据：
原数据地址
在这里插入图片描述
计算第一次决策如果
分别对在14天各个属性下是否进行施肥的统计情况且计算该属性的基尼指数，同一种属性不同表现的基尼指数表示为M，加权平均之后为节点的基尼指数，用N表示
天气：

#encoding = utf-8
import pandas as pd

Base_file = pd.read_excel('Data.xlsx')
Base_file.head(15)
#Base_file.head()
Weather_Sunny = Base_file[Base_file['天气'] == '晴天']['是否施肥'].value_counts()
#print(Weather_Sunny)['否' '否' '否' '是' '是']
Weather_Rainy = Base_file[Base_file['天气'] == '雨天']['是否施肥'].value_counts()
Weather_Overcast = Base_file[Base_file['天气'] == '阴天']['是否施肥'].value_counts()
Weather_Overcast['否'] = 0
Weather_df = pd.DataFrame([
    pd.Series([Weather_Sunny['是'], Weather_Sunny['否']], index = ['是', '否']),
    pd.Series([Weather_Rainy['是'], Weather_Rainy['否']], index = ['是', '否']),
    pd.Series([Weather_Overcast['是'], Weather_Overcast['否']], index = ['是', '否'])
], index=['晴天', '雨天', '阴天'])
Weather_df.head()

在这里插入图片描述
晴天：M1 = 2 * 2/5 * (1 - 2/5) = 0.444444445
雨天：M2 = 2 * 3/5 * (1 - 3/5) = 0.48
阴天：M3 = 0
N1 = 5/14 * M1 + 5/14 * M2 = 0.343
温度：

Hot = Base_file[Base_file['温度'] == '炎热']['是否施肥'].value_counts()
Cool = Base_file[Base_file['温度'] == '温']['是否施肥'].value_counts()
Cold = Base_file[Base_file['温度'] == '冷']['是否施肥'].value_counts()
Temperature_df = pd.DataFrame([
    pd.Series([Hot['是'], Hot['否']], index = ['是', '否']),
    pd.Series([Cool['是'], Cool['否']], index = ['是', '否']),
    pd.Series([Cold['是'], Cold['否']], index = ['是', '否'])
], index = ['炎热', '温', '冷'])
Temperature_df.head()

在这里插入图片描述
炎热：M1 = 2 * 2/4 * (1 - 2/4) = 0.5
温 ： M2 = 2 * 2/6 * (1 - 2/6) = 0.44444445
冷： M3 = 2 * 3/4 * (1 - 3/4) = 0.375
N2 = 4/14 * M1 + 6/14 * M2 + 4/14 * M3 = 0.440

湿度：

Humidity_high = Base_file[Base_file['湿度'] == '高']['是否施肥'].value_counts()
Humidity_mid = Base_file[Base_file['湿度'] == '中']['是否施肥'].value_counts()
Humidity_df = pd.DataFrame([
    pd.Series([Humidity_high['是'], Humidity_high['否']], index = ['是', '否']),
    pd.Series([Humidity_mid['是'], Humidity_mid['否']], index = ['是', '否'])
], index = ['高', '中'])
Humidity_df.head()

在这里插入图片描述
高：M1 = 2 * 3/4 * (1 - 3/4) = 0.375
中：M2 = 2 * 6/7 * (1 - 6/7) = 0.245
N3 = 1/2 * M1 + 1/2 * M2 = 0.310

风力：

Wind_strong = Base_file[Base_file['风力'] == '强风']['是否施肥'].value_counts()
Wind_weak = Base_file[Base_file['风力'] == '弱风']['是否施肥'].value_counts()
Wind_df = pd.DataFrame([
   pd.Series([Wind_strong['是'], Wind_strong['否']], index = ['是', '否']),
   pd.Series([Wind_weak['是'], Wind_weak['否']], index = ['是', '否'])
], index = ['强风', '弱风'])
Wind_df.head()

在这里插入图片描述
强风：M1 = 2 * 3/6 * (1 - 3/6) = 0.5
弱风：M2 = 2 * 6/8 * (1 - 6/8) = 0.375
N4 = 6/14 * M1 + 8/14 * M2 = 0.429
因为N2 > N4 > N1 > N3，所以第一次决策应根据湿度来分类：
在这里插入图片描述
因为此次分类之后，然未出现叶子节点，所以需要分别对第二排的两个节点进行分类，过程与第一次决策类似，计算各个属性下是否进行施肥的统计情况且计算该属性的基尼指数
左右节点的数据分别如下：

Base_file = pd.read_excel('Data.xlsx')
Base_file.head(15)
Temperature_df_high = Base_file[Base_file['湿度'] == '高']
Temperature_df_high.head(14)

在这里插入图片描述

先对左边节点分析：
天气：

Weather_Sunny = Temperature_df_high[Temperature_df_high['天气'] == '晴天']['是否施肥'].value_counts()
Weather_Sunny['是'] = 0
#print(Weather_Sunny)['否' '否' '否' '是' '是']
Weather_Rainy = Temperature_df_high[Temperature_df_high['天气'] == '雨天']['是否施肥'].value_counts()
Weather_Overcast = Temperature_df_high[Temperature_df_high['天气'] == '阴天']['是否施肥'].value_counts()
Weather_Overcast['否'] = 0
Weather_df = pd.DataFrame([
    pd.Series([Weather_Sunny['是'], Weather_Sunny['否']], index = ['是', '否']),
    pd.Series([Weather_Rainy['是'], Weather_Rainy['否']], index = ['是', '否']),
    pd.Series([Weather_Overcast['是'], Weather_Overcast['否']], index = ['是', '否'])
], index=['晴天', '雨天', '阴天'])
Weather_df.head()

在这里插入图片描述
晴天：M1 = 0
雨天：M2 = 0.5
阴天：M3 = 0
N1 = 2/7 * M2 = 0.143
温度：

Hot = Temperature_df_high[Temperature_df_high['温度'] == '炎热']['是否施肥'].value_counts()
Cool = Temperature_df_high[Temperature_df_high['温度'] == '温']['是否施肥'].value_counts()
Cold = Temperature_df_high[Temperature_df_high['温度'] == '冷']['是否施肥'].value_counts()
Cold['是'] = 0
Cold['否'] = 0
Temperature_df = pd.DataFrame([
    pd.Series([Hot['是'], Hot['否']], index = ['是', '否']),
    pd.Series([Cool['是'], Cool['否']], index = ['是', '否']),
    pd.Series([Cold['是'], Cold['否']], index = ['是', '否'])
], index = ['炎热', '温', '冷'])
Temperature_df.head()

在这里插入图片描述
炎热：M1 = 0.44444444445
温： M2 = 0.5
冷： M3 = 0
N2 = 3/7 * M1 + 4/7 * M3 = 0.476

风力：

Wind_strong = Temperature_df_high[Temperature_df_high['风力'] == '强风']['是否施肥'].value_counts()
Wind_weak = Temperature_df_high[Temperature_df_high['风力'] == '弱风']['是否施肥'].value_counts()
Wind_df = pd.DataFrame([
    pd.Series([Wind_strong['是'], Wind_strong['否']], index = ['是', '否']),
    pd.Series([Wind_weak['是'], Wind_weak['否']], index = ['是', '否'])
], index = ['强风', '弱风'])
Wind_df.head()

在这里插入图片描述
强风：M1 = 0.44444444445
弱风：M2 =0.5
N3 = 3/7 * M1 + 4/7 * M2 = 0.476

N1 > N2 = N3
所以左边的节点来说应该根据天气情况来分类
对右边节点分析：
天气：

Weather_Sunny = Temperature_df_mid[Temperature_df_mid['天气'] == '晴天']['是否施肥'].value_counts()
Weather_Sunny['否'] = 0
Weather_Rainy = Temperature_df_mid[Temperature_df_mid['天气'] == '雨天']['是否施肥'].value_counts()
Weather_Overcast = Temperature_df_mid[Temperature_df_mid['天气'] == '阴天']['是否施肥'].value_counts()
Weather_Overcast['否'] = 0
Weather_df = pd.DataFrame([
   pd.Series([Weather_Sunny['是'], Weather_Sunny['否']], index = ['是', '否']),
   pd.Series([Weather_Rainy['是'], Weather_Rainy['否']], index = ['是', '否']),
   pd.Series([Weather_Overcast['是'], Weather_Overcast['否']], index = ['是', '否'])
], index=['晴天', '雨天', '阴天'])
Weather_df.head()

在这里插入图片描述
晴天：M1 = 0
雨天：M2 = 0.444444444445
阴天：M3 = 0
N1 = 3/7 * M2 = 0.190

温度：

Hot = Temperature_df_mid[Temperature_df_mid['温度'] == '炎热']['是否施肥'].value_counts()
Hot['否'] = 0
Cool = Temperature_df_mid[Temperature_df_mid['温度'] == '温']['是否施肥'].value_counts()
Cool['否'] = 0
Cold = Temperature_df_mid[Temperature_df_mid['温度'] == '冷']['是否施肥'].value_counts()

Temperature_df = pd.DataFrame([
  pd.Series([Hot['是'], Hot['否']], index = ['是', '否']),
  pd.Series([Cool['是'], Cool['否']], index = ['是', '否']),
  pd.Series([Cold['是'], Cold['否']], index = ['是', '否'])
], index = ['炎热', '温', '冷'])
Temperature_df.head()

在这里插入图片描述
炎热：M1 = 0
温： M2 = 0
冷： M3 = 2 * 3/4 * (1 - 3/4) = 0.375
N2 = 3/7 * M3 = 0.214

风力：

Wind_strong = Temperature_df_mid[Temperature_df_mid['风力'] == '强风']['是否施肥'].value_counts()
Wind_weak = Temperature_df_mid[Temperature_df_mid['风力'] == '弱风']['是否施肥'].value_counts()
Wind_weak['否'] = 0
Wind_df = pd.DataFrame([
    pd.Series([Wind_strong['是'], Wind_strong['否']], index = ['是', '否']),
    pd.Series([Wind_weak['是'], Wind_weak['否']], index = ['是', '否'])
], index = ['强风', '弱风'])
Wind_df.head()

在这里插入图片描述
强风：M1 = 2 * 2/3 * (1 - 2/3) = 0.44444445
弱风：M2 = 0
N3 = 3/7 * M2 = 0.190

N1 = N3 > N2
这里可以有两种分类决策方法，这里选择使用天气属性对右边节点进行分类，结合对左边节点的分析，对第二层的分类如下：
在这里插入图片描述
经过第二次分类之后，出现了叶子节点，只剩下两个节点需要继续分类，且只剩下温度和风力两个属性，下面是第二次分类之后的左右两个节点数据：

Weather_df_Rainy1 = Base_file[Base_file['湿度'] == '高'][Base_file['天气'] == '雨天']
Weather_df_Rainy1.head()
Weather_df_Rainy2 = Base_file[Base_file['湿度'] == '中'][Base_file['天气'] == '雨天']
Weather_df_Rainy2.head()

在这里插入图片描述
对于左边节点：
温度：

Hot = Weather_df_Rainy1[Weather_df_Rainy1['温度'] == '炎热']['是否施肥'].value_counts()
Hot['是'] = 0
Hot['否'] = 0
Cool = Weather_df_Rainy1[Weather_df_Rainy1['温度'] == '温']['是否施肥'].value_counts()
Cold = Weather_df_Rainy1[Weather_df_Rainy1['温度'] == '冷']['是否施肥'].value_counts()
Cold['是'] = 0
Cold['否'] = 0

Temperature_df = pd.DataFrame([
    pd.Series([Hot['是'], Hot['否']], index = ['是', '否']),
    pd.Series([Cool['是'], Cool['否']], index = ['是', '否']),
    pd.Series([Cold['是'], Cold['否']], index = ['是', '否'])
], index = ['炎热', '温', '冷'])
Temperature_df.head()

在这里插入图片描述
炎热：M1 = 0
温： M2 = 2 * 1/2 * (1 – 1/2) = 0.5
冷： M3 = 0
N1 = M2 = 0.5

风力：

Hot = Weather_df_Rainy1[Weather_df_Rainy1['温度'] == '炎热']['是否施肥'].value_counts()
Hot['是'] = 0
Hot['否'] = 0
Cool = Weather_df_Rainy1[Weather_df_Rainy1['温度'] == '温']['是否施肥'].value_counts()
Cold = Weather_df_Rainy1[Weather_df_Rainy1['温度'] == '冷']['是否施肥'].value_counts()
Cold['是'] = 0
Cold['否'] = 0

Temperature_df = pd.DataFrame([
   pd.Series([Hot['是'], Hot['否']], index = ['是', '否']),
   pd.Series([Cool['是'], Cool['否']], index = ['是', '否']),
   pd.Series([Cold['是'], Cold['否']], index = ['是', '否'])
], index = ['炎热', '温', '冷'])
Temperature_df.head()

在这里插入图片描述
强风：M1 = 0
弱风：M2 = 0
N2 = 0

N1 > N2
所以左边的节点应用风力属性继续往后分类
对右边节点分析：
温度：

Hot = Weather_df_Rainy2[Weather_df_Rainy2['温度'] == '炎热']['是否施肥'].value_counts()
Hot['是'] = 0
Hot['否'] = 0
Cool = Weather_df_Rainy2[Weather_df_Rainy2['温度'] == '温']['是否施肥'].value_counts()
Cool['否'] = 0
Cold = Weather_df_Rainy2[Weather_df_Rainy2['温度'] == '冷']['是否施肥'].value_counts()
Temperature_df = pd.DataFrame([
   pd.Series([Hot['是'], Hot['否']], index = ['是', '否']),
   pd.Series([Cool['是'], Cool['否']], index = ['是', '否']),
   pd.Series([Cold['是'], Cold['否']], index = ['是', '否'])
], index = ['炎热', '温', '冷'])
Temperature_df.head()

在这里插入图片描述
炎热：M1 = 0
温： M2 = 0
冷： M3 = 2 * 1/2 * (1 – 1/2) = 0.5
N1 = M3 = 0.5

风力：

Wind_strong = Weather_df_Rainy2[Weather_df_Rainy2['风力'] == '强风']['是否施肥'].value_counts()
Wind_strong['是'] = 0
Wind_weak = Weather_df_Rainy2[Weather_df_Rainy2['风力'] == '弱风']['是否施肥'].value_counts()
Wind_weak['否'] = 0
Wind_df = pd.DataFrame([
   pd.Series([Wind_strong['是'], Wind_strong['否']], index = ['是', '否']),
   pd.Series([Wind_weak['是'], Wind_weak['否']], index = ['是', '否'])
], index = ['强风', '弱风'])
Wind_df.head()

在这里插入图片描述
强风：M1 = 0
弱风：M2 = 0
N2 = 0

N1 > N2
所以右边边的节点应用风力属性继续往后分类，决策图如下：
在这里插入图片描述

可以看出第二次分类再经过风力的分类之后，此时决策树最后一排的节点全部变为了叶子节点，说明至此，分类完成。
算法实现：

#encoding = utf-8
import numpy as np
import pandas as pd
import operator

def CalcGiNiIndex(DataSet) :
    Num_length = len(DataSet)
    labelcounts = {}
    for feature in DataSet :
        currentlabel = feature[-1]
        #用字典统计类别及其数目
        if currentlabel not in labelcounts.keys() :
            labelcounts[currentlabel] = 1
        else :
            labelcounts[currentlabel] += 1
    GiNi_index = 0
    for key in labelcounts.keys() :
        #二分类求基尼指数：GiNi = 2 * p * （1 - p）
        GiNi_index = 2 * (float(labelcounts[key]) / Num_length) * (1 - float(labelcounts[key]) / Num_length)
    return GiNi_index

def createDataSet() :
    DataSet = [['晴天', '炎热', '高', '弱风', '否'],
                 ['晴天', '炎热', '高', '强风', '否'],
                 ['阴天', '炎热', '高', '弱风', '是'],
                 ['雨天', '温', '高', '弱风', '是'],
                 ['雨天', '冷', '中', '弱风', '是'],
                 ['雨天', '冷', '中', '强风', '否'],
                 ['阴天', '冷', '中', '强风', '是'],
                 ['晴天', '温', '高', '弱风', '否'],
                 ['晴天', '冷', '中', '弱风', '是'],
                 ['雨天', '温', '中', '弱风', '是'],
                 ['晴天', '温', '中', '强风', '是'],
                 ['阴天', '温', '高', '强风', '是'],
                 ['阴天', '炎热', '中', '弱风', '是'],
                 ['雨天', '温', '高', '强风', '否']]
#     file = pd.read_excel('Data.xlsx')
#     DataSet = file.iloc[ : , 1 : ]
#     DataSet = np.array(DataSet)
    labels = ['天气', '温度', '湿度', '风力']
    
    return DataSet, labels

def splitDataSet(DataSet, axis, value): 
    #计算以某个特征分类后剩下的数据量。
    #axis表示第i个特征，value表示在改特征的情况下的具体表现，如天气特征有雨天。阴天等。
    retDataSet = []
    #创建一个新列表，准备提取数据
    for featVec in DataSet :
        #剔除在数据集中需要被分类的特征的列行
        if featVec[axis] == value :
            reducedFeatVec = featVec[ : axis]
            reducedFeatVec.extend(featVec[axis + 1 : ])
            retDataSet.append(reducedFeatVec)
    return retDataSet

def ChooseBestFeatureToSplit(DataSet) :
    #计算父亲节点的GiNi指数
    FatherGiNi = CalcGiNiIndex(DataSet)
    BestIoFoGain = 0
    BestFeature = -1
    numFeature = len(DataSet[0]) - 1
    #去掉最后一列
    for i in range(numFeature) :
        #每个特征下的具体表现形式
        featList = [example[i] for example in DataSet]
        uniqueVals = set(featList)#去重复
        newGiNi = 0
        for value in uniqueVals :
            #计算每一种表现形式GiNi指数的权重和
            subData = splitDataSet(DataSet, i, value)
            prob = len(subData) / float(len(DataSet))
            newGiNi += prob * CalcGiNiIndex(subData)
        infogain = FatherGiNi - newGiNi#计算信息增益
        if infogain > BestIoFoGain :
            #比较信息增益的大小，更新最佳分类的特征
            BestIoFoGain = infogain
            BestFeature = i
    return BestFeature

def majorityCnt(classList):    #按分类后类别数量排序，比如：最后分类为2yes1no，则判定为yes；
    classCount={}
    for vote in classList:
        if vote not in classCount.keys():
            classCount[vote]=0
        classCount[vote]+=1
    #字典逆序排序
    sortedClassCount = sorted(classCount.items(), key = lambda x : x[1], reverse=True)
    return sortedClassCount[0][0]

def createTree(DataSet, labels) :
    ConditionList = [example[-1] for example in DataSet]
    #list.count(element) 方法用于统计某个元素在列表中出现的次数。
    if ConditionList.count(ConditionList[0]) == len(ConditionList) :#yes or no
        return ConditionList[0]
    #dataSet[0]取矩阵第一行，dataSet[0][0]取矩阵第一行第一列元素
    #递归终止条件2：使用完所有特征，则返回最后出现次数最多的那个标签
    if len( DataSet[0] ) == 1:   
        return majorityCnt(classList)
    
     #以上两个终止条件都不满足，开始选择最优特征划分，已经有了一个方框，准备往方框中写入判断问题
    BestFeature = ChooseBestFeatureToSplit(DataSet)
    BestFeatLabel = labels[BestFeature]
    mytree = {BestFeatLabel : {}}
    #用过了该特征，将该特征从所有特征列表中删除
    del (labels[BestFeature])
    featValues = [example[BestFeature] for example in DataSet]
    uniqueVals = set(featValues)
    for value in uniqueVals:
        subLabels = labels[ : ]
        splitdata = splitDataSet(DataSet, BestFeature, value)
        #递归
        mytree[BestFeatLabel][value] = createTree(splitdata, subLabels)
    return mytree

DataSet, labels = createDataSet()# 创造示列数据
print(createTree(DataSet, labels))# 输出决策树模型结果

在这里插入图片描述

八岁爱玩耍
关注
  • 2
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
决策树----对天气和自身状态是否适合去运动做出预测
RuijieRen的博客
10-27 1万+
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、决策树原理 二、使用步骤 1.引入库 2.读入数据 总结 前言 提示：通过自建数据集，创建决策树对天气和身体状态是否适合去运动进行预测。 提示：以下是本篇文章正文内容，下面案例可供参考 一、决策树原理 示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。 二、使用步骤 1.引入库 代码如下（示例）： import numpy as np
决策树+实例练习
weixin_43242381的博客
01-04 299
决策树+实例练习
决策树算法原理+例题练习
qq_43436296的博客
07-25 2万+
决策树算法原理+例题练习
机器学习-决策树
最新发布
m0_73674545的博客
04-30 725
是⼀种树形结构，本质是⼀颗由多个判断节点组成的树其中每个内部节点表示⼀个属性上的判断，每个分⽀代表⼀个判断结果的输出，最后每个叶节点代表⼀种分类结果。决策树分类原理信息熵首先先从熵开始理解1从信息的完整性上进⾏的描述当系统的有序状态⼀致时，数据越集中的地⽅熵值越⼩，数据越分散的地⽅熵值越⼤。2从信息的有序性上进⾏的描述当数据量⼀致时系统越有序，熵值越低；系统越混乱或者分散，熵值越⾼。所以信息熵是度量样本集合纯度最常⽤的⼀种指标。信息熵公式：D为样本的所有数量，C。
西瓜书习题 - 4.决策树
wdn blog
10-25 1万+
西瓜书第四章决策树练习题
Python实现决策树算法和朴素贝叶算法，并根据天气数据集预测是否出游
qq_37746855的博客
07-13 3660
该数据集，已有的天气状况、温度、湿度还有风力信息，预测是否适合出去游玩。在算法设计中可以把天气状况、温度、湿度还有风力信息作为算法的输入，是否适合游玩作为输出结果。 定义属性、划分数据集 将1-12条作为训练数据集，13-16作为测试数据集 结果预测 结果预测...
机器学习之决策树（Decision Tree）
小火球儿
07-26 1702
决策树（Decision Tree） 决策树又称为判定树，是数据挖掘中的一种重要的分类与回归方法，它是一种以树结构(包括二叉树和多叉树)形式来表达的预测分析模型 是一种有监督的算法 决策树有两种，一种是分类树（输入是离散的），一种是回归树（输入是连续的） 决策树由节点和分支组成：（详情参考数据结构书本） 节点分为三种：根节点，内部节点，叶节点 分支：用于连接各个节点 决策树分为以下结构： 每个内部节点对应于某个属性上的测试(test)或者说是大类 每个分支对应于该测试的一种可能结果 每个叶节点对应
决策树练习.zip
04-25
在本"决策树练习"中，我们将深入探讨决策树的原理、构建过程以及在实际问题中的应用。 一、决策树的基本概念 决策树由节点和边组成，其中根节点代表原始数据集，内部节点表示特征或属性测试，而叶节点则代表最终的...
练习决策树算法.zip
04-25
决策树（Decision Tree）是一种在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法。由于这种决策分支画成图形很像一棵树的枝干，...
打网球数据集 机器学习决策树练习用.zip
02-29
标题中的“打网球数据集 机器学习决策树练习用.zip”表明这是一个用于机器学习实践，特别是决策树模型训练的数据集。这个数据集可能是为了帮助学习者或者分析师理解如何使用决策树算法来预测打网球是否适宜的条件。...
打网球数据集 机器学习决策树练习用
04-03
这个“打网球数据集”提供了一个理想的练习环境，让你能够深入理解并应用决策树模型。这个数据集主要用于预测是否应该在特定天气条件下打网球。下面我们将详细探讨与之相关的知识点。 1. **决策树算法**： 决策树...
决策树课堂练习.html
05-04
决策树课堂练习.html
机器学习实战 决策树(附数据集)
枫林晚的博客
07-01 1万+
运行环境：Anaconda——Jupyter Notebook Python版本为：3.6.6 数据集:lense.txt 提取码：9wsp 1.决策树 决策树也是最经常使用的数据挖掘算法，长方形代表判断模块（decision block），椭圆形代表终止模块（terminating block），表示已经得出结论，可以终止运行。从判断模块引出的左右箭头称作分支（branch），它可以到达另一个判...
决策树的训练过程
nongfu_spring的专栏
09-23 5342
void CvDTree::try_split_node( CvDTreeNode* node ) {     CvDTreeSplit* best_split = 0;     int i, n = node->sample_count, vi;     bool can_split = true;     double quality_scale;   c
决策树面试题
lgy54321的博客
12-13 2359
决策树几种常用的算法已经如何选择划分的特征 常用的几种决策树算法有ID3、C4.5、CART等；其中ID3使用的是信息熵增益选大的方法划分数据，C4.5是使用增益率选大的方法划分数据，CART使用的是基尼指数选小的划分方法 划分特征的优缺点 ID3： 该算法是以信息论为基础，以信息熵和信息增益度为衡量标准，从而实现对数据的归纳分类。ID3算法往往偏向于选择取值较多的属性，而在很多情况下取值较多的属...
决策树的完整知识点总结
热门推荐
小小的学渣
11-26 3万+
一、原理   决策树是一种非参数的监督学习方法，它主要用于分类和回归。决策树的目的是构造一种模型，使之能够从样本数据的特征属性中，通过学习简单的决策规则——IF THEN规则，从而预测目标变量的值。 图1 决策树 例如，在某医院内，对因心脏病发作而入院治疗的患者，在住院的前24小时内，观测记录下来他们的19个特征属性——血压、年龄、以及其他17项可以综合判断病人状况的重要指标，
ML刻意练习第1周之决策树算法
juanjuanyou的博客
11-16 232
决策树的解释： 1、决策树是基于树结构进行决策的 2、一般地，一棵决策树包含一个根结点、若干个内部结点和若干个叶结点。叶结点对应于决策结果，其他每个结点则对应于一个属性测试。 3、每个结点包含的样本集合根据属性测试的结果被划分到子结点中；根结点包含样本全集。 4、从根结点到每个叶结点的路径对应了一个判定测试序列。 常用的决策树算法有ID3，C4.5，CART算法等，本练习所采用的是最简单的ID3算...
matlab决策树训练集,ML—决策树(train,matlab)
weixin_32308019的博客
03-19 637
华电北风吹天津大学认知计算与应用重点实验室修改日期：2015/8/11决策树是一种特别简单的机器学习分类算法。决策树想法来源于人类的决策过程。举个最简单的例子，人类发现下雨的时候，往往会有刮东风，然后天色变暗。对应于决策树模型，预测天气模型中的刮东风和天色变暗就是我们收集的特征，是否下雨就是类别标签。构建的决策树如下图所示 决策树模型构建过程为，在特征集合中无放回的依次递归抽选特征作为决策树的节点...
机器学习实战（6）——决策树
WHJ226的博客
08-30 1632
下面简单看一下例子：简单步骤如下：首先打开该网站，最后将dot文件内容复制粘贴左侧代码区即可。效果如下：（另外pycharm中的插件也可以实现决策树可视化，不过目前上述方法还没出现问题就未曾探索）.........
决策树练习 数据: ch05/data/sales_data.xls 要求: 根据天气、是否周末、是否促销
07-02
决策树适用于分类和预测问题，这里我们可以利用决策树来预测不同天气状况、是否周末、是否促销对销售金额的影响。 首先，我们需要通过Python的pandas库读取数据集。使用pd.read_excel()函数读取sales_data.xls文件...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

八岁爱玩耍

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值