决策树挑出好西瓜

最新推荐文章于 2023-12-19 16:38:44 发布
最新推荐文章于 2023-12-19 16:38:44 发布
阅读量380 收藏 5
点赞数 2
文章标签： 决策树 机器学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/louderIII/article/details/121063300
版权

目录

一.什么是决策树

1.定义

1、决策树（Decision Tree)是一类常见的机器学习方法，是一种非常常用的分类方法，它是一种监督学习。常见的决策树算法有ID3，C4.5、C5.0和CART（classification and regression tree），CART的分类效果一般要优于其他决策树。
2、决策树是基于树状结构来进行决策的，一般地，一棵决策树包含一个根节点、若干个内部节点和若干个叶节点。
3、 每个内部节点表示一个属性上的判断 每个分支代表一个判断结果的输出 每个叶节点代表一种分类结果。 根节点包含样本全集
4、决策树学习的目的是为了产生一棵泛化能力强，即处理未见示例能力强的决策树，其基本流程遵循简单且直观的“分而治之”（divide-and-conquer）策略。

2.分类

在这里插入图片描述

二.ID3算法

1.算法核心

ID3算法的核心是根据信息增益来选择进行划分的特征，然后递归地构建决策树

2.熵（entropy）

熵表示事务不确定性的程度，也就是信息量的大小（一般说信息量大，就是指这个时候背后的不确定因素太多），熵的公式如下：
在这里插入图片描述
对于在X的条件下Y的条件熵，是指在X的信息之后，Y这个变量的信息量（不确定性）的大小，计算公式如下：
在这里插入图片描述
所以当Entropy最大为1的时候，是分类效果最差的状态，当它最小为0的时候，是完全分类的状态。因为熵等于零是理想状态，一般实际情况下，熵介于0和1之间 。
熵的不断最小化，实际上就是提高分类正确率的过程。

3.算法步骤

1.从根节点开始，计算所有可能的特征的信息增益，选择信息增益最大的特征作为节点的划分特征；
2.由该特征的不同取值建立子节点；
3.再对子节点递归1-2步，构建决策树；
4.直到没有特征可以选择或类别完全相同为止，得到最终的决策树。

三.ID3算法应用–西瓜树

1.理论分析

西瓜的决策树：
在这里插入图片描述
西瓜样本构建决策树模型：在这里插入图片描述
利用信息增益选择最优划分属性：
（1）西瓜树信息熵：
在西瓜样本集中，共有17个样本，其中正样本8个，负样本9个，样本集的信息熵为：
在这里插入图片描述
（2）西瓜树信息增量：
西瓜样本集中，以属性“色泽”为例，它有3个取值{青绿、乌黑、浅白}，对应的子集D1（色泽=青绿）中有6个样本，其中正负样本各3个，D2（色泽=乌黑）中有6个样本，正样本4个，负样本2个，D^3（色泽=浅白）中有5个样本，正样本1个，fuya负样本4个。
在这里插入图片描述同理也可以计算出其他几个属性的信息增益，选择信息增益最大的属性作为根节点来进行划分，然后再对每个分支做进一步划分.

2.使用sklearn库算法代码

1…数据集如下:
在这里插入图片描述
2.引入数据和需要用到的包

import numpy as np
import pandas as pd
import sklearn.tree as st
import math
data = pd.read_csv('./西瓜数据集.csv')
data

在这里插入图片描述
3.计算熵

def calcEntropy(dataSet):
    mD = len(dataSet)
    dataLabelList = [x[-1] for x in dataSet]
    dataLabelSet = set(dataLabelList)
    ent = 0
    for label in dataLabelSet:
        mDv = dataLabelList.count(label)
        prop = float(mDv) / mD
        ent = ent - prop * np.math.log(prop, 2)

    return ent

在这里插入图片描述
4.拆分数据集

# index - 要拆分的特征的下标
# feature - 要拆分的特征
# 返回值 - dataSet中index所在特征为feature，且去掉index一列的集合
def splitDataSet(dataSet, index, feature):
    splitedDataSet = []
    mD = len(dataSet)
    for data in dataSet:
        if(data[index] == feature):
            sliceTmp = data[:index]
            sliceTmp.extend(data[index + 1:])
            splitedDataSet.append(sliceTmp)
    return splitedDataSet

5.选择最好的特征

# 返回值 - 最好的特征的下标
def chooseBestFeature(dataSet):
    entD = calcEntropy(dataSet)
    mD = len(dataSet)
    featureNumber = len(dataSet[0]) - 1
    maxGain = -100
    maxIndex = -1
    for i in range(featureNumber):
        entDCopy = entD
        featureI = [x[i] for x in dataSet]
        featureSet = set(featureI)
        for feature in featureSet:
            splitedDataSet = splitDataSet(dataSet, i, feature)  # 拆分数据集
            mDv = len(splitedDataSet)
            entDCopy = entDCopy - float(mDv) / mD * calcEntropy(splitedDataSet)
        if(maxIndex == -1):
            maxGain = entDCopy
            maxIndex = i
        elif(maxGain < entDCopy):
            maxGain = entDCopy
            maxIndex = i

    return maxIndex

6.寻找最多的，作为标签

# 返回值 - 标签
def mainLabel(labelList):
    labelRec = labelList[0]
    maxLabelCount = -1
    labelSet = set(labelList)
    for label in labelSet:
        if(labelList.count(label) > maxLabelCount):
            maxLabelCount = labelList.count(label)
            labelRec = label
    return labelRec

7.生成树

def createFullDecisionTree(dataSet, featureNames, featureNamesSet, labelListParent):
    labelList = [x[-1] for x in dataSet]
    if(len(dataSet) == 0):
        return mainLabel(labelListParent)
    elif(len(dataSet[0]) == 1): #没有可划分的属性了
        return mainLabel(labelList)  #选出最多的label作为该数据集的标签
    elif(labelList.count(labelList[0]) == len(labelList)): # 全部都属于同一个Label
        return labelList[0]

    bestFeatureIndex = chooseBestFeature(dataSet)
    bestFeatureName = featureNames.pop(bestFeatureIndex)
    myTree = {bestFeatureName: {}}
    featureList = featureNamesSet.pop(bestFeatureIndex)
    featureSet = set(featureList)
    for feature in featureSet:
        featureNamesNext = featureNames[:]
        featureNamesSetNext = featureNamesSet[:][:]
        splitedDataSet = splitDataSet(dataSet, bestFeatureIndex, feature)
        myTree[bestFeatureName][feature] = createFullDecisionTree(splitedDataSet, featureNamesNext, featureNamesSetNext, labelList)
    return myTree

8.画图

# 能够显示中文
matplotlib.rcParams['font.sans-serif'] = ['SimHei']
matplotlib.rcParams['font.serif'] = ['SimHei']

# 分叉节点，也就是决策节点
decisionNode = dict(boxstyle="sawtooth", fc="0.8")

# 叶子节点
leafNode = dict(boxstyle="round4", fc="0.8")

# 箭头样式
arrow_args = dict(arrowstyle="<-")


def plotNode(nodeTxt, centerPt, parentPt, nodeType):
    """
    绘制一个节点
    :param nodeTxt: 描述该节点的文本信息
    :param centerPt: 文本的坐标
    :param parentPt: 点的坐标，这里也是指父节点的坐标
    :param nodeType: 节点类型,分为叶子节点和决策节点
    :return:
    """
    createPlot.ax1.annotate(nodeTxt, xy=parentPt, xycoords='axes fraction',
                            xytext=centerPt, textcoords='axes fraction',
                            va="center", ha="center", bbox=nodeType, arrowprops=arrow_args)


def getNumLeafs(myTree):
    """
    获取叶节点的数目
    :param myTree:
    :return:
    """
    # 统计叶子节点的总数
    numLeafs = 0

    # 得到当前第一个key，也就是根节点
    firstStr = list(myTree.keys())[0]

    # 得到第一个key对应的内容
    secondDict = myTree[firstStr]

    # 递归遍历叶子节点
    for key in secondDict.keys():
        # 如果key对应的是一个字典，就递归调用
        if type(secondDict[key]).__name__ == 'dict':
            numLeafs += getNumLeafs(secondDict[key])
        # 不是的话，说明此时是一个叶子节点
        else:
            numLeafs += 1
    return numLeafs


def getTreeDepth(myTree):
    """
    得到数的深度层数
    :param myTree:
    :return:
    """
    # 用来保存最大层数
    maxDepth = 0

    # 得到根节点
    firstStr = list(myTree.keys())[0]

    # 得到key对应的内容
    secondDic = myTree[firstStr]

    # 遍历所有子节点
    for key in secondDic.keys():
        # 如果该节点是字典，就递归调用
        if type(secondDic[key]).__name__ == 'dict':
            # 子节点的深度加1
            thisDepth = 1 + getTreeDepth(secondDic[key])

        # 说明此时是叶子节点
        else:
            thisDepth = 1

        # 替换最大层数
        if thisDepth > maxDepth:
            maxDepth = thisDepth

    return maxDepth


def plotMidText(cntrPt, parentPt, txtString):
    """
    计算出父节点和子节点的中间位置，填充信息
    :param cntrPt: 子节点坐标
    :param parentPt: 父节点坐标
    :param txtString: 填充的文本信息
    :return:
    """
    # 计算x轴的中间位置
    xMid = (parentPt[0]-cntrPt[0])/2.0 + cntrPt[0]
    # 计算y轴的中间位置
    yMid = (parentPt[1]-cntrPt[1])/2.0 + cntrPt[1]
    # 进行绘制
    createPlot.ax1.text(xMid, yMid, txtString)


def plotTree(myTree, parentPt, nodeTxt):
    """
    绘制出树的所有节点，递归绘制
    :param myTree: 树
    :param parentPt: 父节点的坐标
    :param nodeTxt: 节点的文本信息
    :return:
    """
    # 计算叶子节点数
    numLeafs = getNumLeafs(myTree=myTree)

    # 计算树的深度
    depth = getTreeDepth(myTree=myTree)

    # 得到根节点的信息内容
    firstStr = list(myTree.keys())[0]

    # 计算出当前根节点在所有子节点的中间坐标,也就是当前x轴的偏移量加上计算出来的根节点的中心位置作为x轴（比如说第一次：初始的x偏移量为：-1/2W,计算出来的根节点中心位置为：(1+W)/2W，相加得到：1/2），当前y轴偏移量作为y轴
    cntrPt = (plotTree.xOff + (1.0 + float(numLeafs))/2.0/plotTree.totalW, plotTree.yOff)

    # 绘制该节点与父节点的联系
    plotMidText(cntrPt, parentPt, nodeTxt)

    # 绘制该节点
    plotNode(firstStr, cntrPt, parentPt, decisionNode)

    # 得到当前根节点对应的子树
    secondDict = myTree[firstStr]

    # 计算出新的y轴偏移量，向下移动1/D，也就是下一层的绘制y轴
    plotTree.yOff = plotTree.yOff - 1.0/plotTree.totalD

    # 循环遍历所有的key
    for key in secondDict.keys():
        # 如果当前的key是字典的话，代表还有子树，则递归遍历
        if isinstance(secondDict[key], dict):
            plotTree(secondDict[key], cntrPt, str(key))
        else:
            # 计算新的x轴偏移量，也就是下个叶子绘制的x轴坐标向右移动了1/W
            plotTree.xOff = plotTree.xOff + 1.0/plotTree.totalW
            # 打开注释可以观察叶子节点的坐标变化
            # print((plotTree.xOff, plotTree.yOff), secondDict[key])
            # 绘制叶子节点
            plotNode(secondDict[key], (plotTree.xOff, plotTree.yOff), cntrPt, leafNode)
            # 绘制叶子节点和父节点的中间连线内容
            plotMidText((plotTree.xOff, plotTree.yOff), cntrPt, str(key))

    # 返回递归之前，需要将y轴的偏移量增加，向上移动1/D，也就是返回去绘制上一层的y轴
    plotTree.yOff = plotTree.yOff + 1.0/plotTree.totalD


def createPlot(inTree):
    """
    需要绘制的决策树
    :param inTree: 决策树字典
    :return:
    """
    # 创建一个图像
    fig = plt.figure(1, facecolor='white')
    fig.clf()
    axprops = dict(xticks=[], yticks=[])
    createPlot.ax1 = plt.subplot(111, frameon=False, **axprops)
    # 计算出决策树的总宽度
    plotTree.totalW = float(getNumLeafs(inTree))
    # 计算出决策树的总深度
    plotTree.totalD = float(getTreeDepth(inTree))
    # 初始的x轴偏移量，也就是-1/2W，每次向右移动1/W，也就是第一个叶子节点绘制的x坐标为：1/2W，第二个：3/2W，第三个：5/2W，最后一个：(W-1)/2W
    plotTree.xOff = -0.5/plotTree.totalW
    # 初始的y轴偏移量，每次向下或者向上移动1/D
    plotTree.yOff = 1.0
    # 调用函数进行绘制节点图像
    plotTree(inTree, (0.5, 1.0), '')
    # 绘制
    plt.show()

9.结果

dataSet, featureNames, featureNamesSet=readWatermelonDataSet()
testTree= createFullDecisionTree(dataSet, featureNames, featureNamesSet,featureNames)
createPlot(testTree)

在这里插入图片描述

四、决策树算法——C4.5

1.对比ID3的改进点

C4.5算法是用于生成决策树的一种经典算法，是ID3算法的一种延伸和优化。C4.5算法对ID3算法进行了改进 ，改进点主要有：

用信息增益率来选择划分特征，克服了用信息增益选择的不足，
信息增益率对可取值数目较少的属性有所偏好；
能够处理离散型和连续型的属性类型，即将连续型的属性进行离散化处理；
能够处理具有缺失属性值的训练数据；
在构造树的过程中进行剪枝；

2.级目录特征选择

特征选择也即选择最优划分属性，从当前数据的特征中选择一个特征作为当前节点的划分标准。 随着划分过程不断进行，希望决策树的分支节点所包含的样本尽可能属于同一类别，即节点的“纯度”越来越高。

3.信息增益率

信息增益准则对可取值数目较多的属性有所偏好，为减少这种偏好可能带来的不利影响，C4.5算法采用信息增益率来选择最优划分属性。增益率公式
在这里插入图片描述
信息增益率准则对可取值数目较少的属性有所偏好。所以，C4.5算法不是直接选择信息增益率最大的候选划分属性，而是先从候选划分属性中找出信息增益高于平均水平的属性，再从中选择信息增益率最高的。

4.对连续特征的处理

当属性类型为离散型，无须对数据进行离散化处理；

当属性类型为连续型，则需要对数据进行离散化处理。具体思路如下：
在这里插入图片描述

5.对缺失值的处理

D3算法不能处理缺失值，而C4.5算法可以处理缺失值（常用概率权重方法），主要有三种情况，具体如下：

1.在有缺失值的特征上如何计算信息增益率？
根据缺失比例，折算信息增益（无缺失值样本所占的比例乘以无缺失值样本子集的信息增益）和信息增益率
2.选定了划分属性，若样本在该属性上的值是缺失的，那么如何对这个样本进行划分？
将样本以不同概率同时划分到不同节点中，概率是根据其他非缺失属性的比例来得到的
3.对新的样本进行分类时，如果测试样本特性有缺失值如何判断其类别？
走所有分支，计算每个类别的概率，取概率最大的类别赋值给该样本

6.剪枝

1.剪枝原因
因为过拟合的树在泛化能力的表现非常差。
剪枝又分为前剪枝和后剪枝，前剪枝是指在构造树的过程中就知道哪些节点可以剪掉 。 后剪枝是指构造出完整的决策树之后再来考查哪些子树可以剪掉。
2.剪前枝

在节点划分前确定是否继续增长，及早停止增长的主要方法有：
节点内数据样本数小于切分最小样本数阈值；
所有节点特征都已分裂；
节点划分前准确率比划分后准确率高。 前剪枝不仅可以降低过拟合的风险而且还可以减少训练时间，但另一方面它是基于“贪心”策略，会带来欠拟合风险。

3.剪后枝
在已经生成的决策树上进行剪枝，从而得到简化版的剪枝决策树。

C4.5算法采用悲观剪枝方法。根据剪枝前后的误判率来判定是否进行子树的修剪， 如果剪枝后与剪枝前相比其误判率是保持或者下降，则这棵子树就可以被替换为一个叶子节点。 因此，不需要单独的剪枝数据集。C4.5 通过训练数据集上的错误分类数量来估算未知样本上的错误率。

五.决策树算法——CART算符

1.简介

ID3和C4.5算法，生成的决策树是多叉树，只能处理分类不能处理回归。而CART（classification and regression tree）分类回归树算法，既可用于分类也可用于回归。 分类树的输出是样本的类别， 回归树的输出是一个实数。
ID3中使用了信息增益选择特征，增益大优先选择。C4.5中，采用信息增益率选择特征，减少因特征值多导致信息增益大的问题。CART分类树算法使用基尼系数选择特征，基尼系数代表了模型的不纯度，基尼系数越小，不纯度越低，特征越好。这和信息增益（率）相反。

CART算法步骤：
特征选择；
递归建立决策树；
决策树剪枝；

2.基尼系数

数据集D的纯度可用基尼值来度量
在这里插入图片描述
在这里插入图片描述
在属性A的条件下，样本D的基尼系数定义为
在这里插入图片描述

3.对连续特征和离散特征的处理

1.连续特征
与C4.5思想相同，都是将连续的特征离散化。区别在选择划分点时，C4.5是信息增益率，CART是基尼系数。

具体思路：
在这里插入图片描述
2.离散特征
思路：不停的二分离散特征
在ID3、C4.5，特征A被选取建立决策树节点，如果它有3个类别A1,A2,A3，我们会在决策树上建立一个三叉点，这样决策树是多叉树，而且离散特征只会参与一次节点的建立。
在这里插入图片描述

六.总结

通过本次实验，我了解到ID3中使用了信息增益选择特征，增益大优先选择。C4.5中，采用信息增益率选择特征，减少因特征值多导致信息增益大的问题。CART分类树算法使用基尼系数选择特征，基尼系数代表了模型的不纯度，基尼系数越小，不纯度越低，特征越好，这和信息增益（率）相反。

七.参考文献

https://blog.csdn.net/weixin_56102526/article/details/120987844?spm=1001.2014.3001.5501.
https://blog.csdn.net/qq_47281915/article/details/120928948?spm=1001.2014.3001.5501.

frozenlli
关注
  • 2
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
西瓜3.0决策树.zip
06-19
使用Python实现用于判断西瓜好坏的决策树程序。 程序详解：https://blog.csdn.net/weixin_40973138/article/details/117999991?spm=1001.2014.3001.5501
夏日炎炎，使用决策树去挑选西瓜（python实现）
Guo_ping'blog
03-30 1万+
问题导向 树结构大家应该都熟知了，通过根节点开始，通过判断节点信息的是或否决定分支，逐次向下，最后在叶子节点生成最终的决策。 决策的每个分支可以是数值条件也可以是我们传承的经验，下面我将使用java代码在300行内实现一个决策树。 夏日炎炎，我们如何使用过去的经验来判断一个西瓜是不是好瓜呢？ 我们一般会根据它的 色泽,根蒂,敲声,纹理,触感等等来判断它是不是一个好瓜。 以下是去年父亲买瓜时的信息...
【机器学习系列】之“西瓜数据集”决策树构建数学公式计算过程
热门推荐
qq_41995574的博客
04-23 1万+
作者：張張張張 github地址：https://github.com/zhanghekai 【转载请注明出处，谢谢！】 一、决策树概述 决策树（Decision Tree）算法是一种基本的分类与回归方法，是最经常使用的数据挖掘算法之一。决策树是一种非线性有监督分类模型必须将已有的数据进行离散化，即：从字符串变成数值。构造决策树的基本思想是随着树深度的增加，节点的“熵”迅速降低，熵降低的速度越快越...
挑选西瓜（决策树实现）
junseven164的博客
10-26 5975
小鹿一、决策树参考 一、决策树 决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习中，决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度，使用算法ID3, C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中熵的概念。 决策树是一种树形结
机器学习-决策树（以西瓜数据集为例）
03-30
机器学习——决策树（以西瓜数据集为例），完整源代码。已经在博客中记录。
人工智能-决策树实验（对西瓜数据集 3.0 的分类）
06-05
使用决策树算法完成对西瓜数据集 3.0 的分类，根据西瓜的色泽、根蒂、敲 声、纹理、脐部、触感、密度、含糖率共 8 个属性特征来判断西瓜是否是一个好 瓜
watermelon_决策树_西瓜数据集_西瓜数据_
10-03
西瓜数据集共17个数据，用这个数据集做一个决策树，输出以图形的形式输出或以列表的形式输出，每一次中间节点分类的时候都要把输出的图形显示出来
人工智能决策树西瓜数据集
04-12
人工智能西瓜数据集——决策树
面向对象程序设计课程设计：利用决策树判断西瓜质量（源代码）
01-27
以下数据集是经过确认的西瓜属性，请根据这些信息，利用决策树方法判定另外一批西瓜的质量。 1.学习有关决策树的相关知识 2.构建每个属性的信息增益，并写入到文件Gain.txt中 3.绘制决策树，保存成文件, Decision_...
【决策树】中案例代码的使用（西瓜数据集合）
11-30
这个数据集合是配合【决策树】中案例代码的使用 文章地址在：https://blog.csdn.net/qq_37344125/article/details/103327909
基于西瓜数据集的决策树实现.zip
最新发布
04-25
金融风险评估：决策树可以用于预测客户借款违约概率，帮助银行更好地管理风险。通过客户的历史数据构建决策树，可以根据客户的财务状况、征信记录、职业等信息来预测违约概率。 医疗诊断：医生可以通过病人的症状、...
Matlab实现决策树算法
02-27
Matlab实现决策树算法，使用ID3_2函数并设计了十指交叉验证，可显示每一次的模型精度。资源提供类一个数据集用于模型训练，将之直接替换为自己的数据即可运行。最终的决策树建立结果以画图的形式表示，并且为每一类...
基于决策树的鸢尾花分类
04-21
决策树莺尾花
决策树实现对鸢尾花分类
07-15
实现决策树对鸢尾花进行分类，决策树进行了可视化，分别使用了图片和pdf进行显示，相关代码下载即可运行。
决策树：挑出好西瓜
weixin_46129506的博客
10-30 2339
目录一、概念二、ID3决策树算法1.信息熵2.信息增益3. 增益率(gain ratio)4. 基尼指数(Gini index)5.python编码实现参考资料 一、概念 决策树在机器学习中也是比较常见的一种算法，属于监督学习中的一种。看字面意思应该也比较容易理解，相比其他算法比如支持向量机(SVM)或神经网络，似乎决策树感觉“亲切”许多。 优点：计算复杂度不高，输出结果易于理解，对中间值的缺失值不敏感，可以处理不相关特征数据。 缺点：可能会产生过度匹配的问题。 使用数据类型：数值型和标称型。 最经典的
西瓜书—— 决策树
Ryangfeng
11-01 1068
西瓜书—— 第4 章 决策树 4.1 基本流程 核心思想： if… then… 4.2 划分选择 目的：如何选择最优划分属性，使叶节点的“纯净”度更高（分支节点所包含的样本尽可能属于同一类别） 4.2.1 信息增益 熵：信息量的大小（可能性的多少） 信息熵：某个事件所有可能值的熵和；度量样本集合纯度最常用的一个指标 条件熵：已知事件各取值下条件熵的期望 信息增益：对于已知的事件A来说，事件D的信息增益就是D的信息熵与A事件下D的条件熵之差。 信息增益越大，则属性a来进行划分所获得的“纯度提
西瓜书第四章决策树-详读-第一部分
weixin_55064870的博客
12-19 406
决策树：一种常见的机器学习方法：每个测试的结果或者是导出进一步的判定问题，或者是最终结论。决策树：一种常见的机器学习方法：每个测试的结果或者是导出进一步的判定问题，或者是最终结论。一颗决策树通常包含一个根节点、若干个内部节点【属性测试】和若干个叶节点【决策结果】。决策树学习基本算法：是一种有监督学习算法，主要用于解决分类与回归问题。1，当前节点包含的样本都属于同一个类别，已经无须再划分。2，当前属性集为空，或者所有样本在所有属性上取值都相同，无法划分。
西瓜书笔记4: 决策树
越开源越幸运
05-29 1319
4.1基本流程 决策树学习基本算法 4.2划分选择 4.2.1 信息增益 信息熵 信息增益 西瓜例子 4.2.2 增益率 4.2.3 基尼指数 4.3 剪枝处理 4.3.1 预剪枝 4.3.2 后剪枝 4.4连续与缺失值 4.4.1 连续值处理 连续属性离散化 西瓜例子 4.4.2 缺失值处理 信息增益 西瓜例子 4.5 多变量决策树 轴平行决策树 斜决策树
决策树判断西瓜好坏决策树流程图
12-13
根据引用[1]提供的程序详解，可以得到决策树判断西瓜好坏的流程图如下： ![决策树流程图](https://img-blog.csdnimg.cn/20210722163412905.png) 决策树的流程图中包含了多个节点，每个节点代表一个属性或者一个判断结果。从根节点开始，根据不同的属性进行判断，沿着不同的分支走到下一个节点，直到到达叶节点，叶节点代表了最终的分类结果。在这个决策树中，根据西瓜的色泽、根蒂、敲声等属性进行判断，最终将西瓜分为好瓜和坏瓜两类。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值