决策树ID3

已于 2023-07-03 16:21:40 修改
阅读量1.4k 收藏 1
点赞数 1
文章标签： 决策树 算法 机器学习
于 2023-07-03 13:31:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_52166467/article/details/131513581
版权

文章目录


学习地址:
https://www.bilibili.com/video/BV1Cq4y1S7k1/?spm_id_from=333.1007.top_right_bar_window_history.content.click&vd_source=de1f9cbc33f7115533aa33c9d6b5257b

题目一

在这里插入图片描述
ID3算法画出决策树

基础知识

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 关系：
    gain=E-info

解题过程

①算总的信息量

在这里插入图片描述

②求解各个指标的信息增益，以此比较得出根节点

在这里插入图片描述

  • 先算天气的信息增益

在这里插入图片描述

  • 算气温的信息增益
    在这里插入图片描述
  • 算湿度的信息增益

在这里插入图片描述

  • 算风的信息增益

在这里插入图片描述

  • 选择信息增益最大的作为根节点

在这里插入图片描述

  • 画出根节点图

在这里插入图片描述

③ 从根节点下的晴天节点出发循环上述步骤

  • 计算晴天信息总量
    在这里插入图片描述
  • 计算其它的信息增益

在这里插入图片描述

  • 选择最大信息增益的作为晴天的下一节点

在这里插入图片描述

④ 从根节点下的多云节点出发，循环上述步骤

⑤ 从根节点下的雨节点出发，循环上述步骤

⑥画出最终的决策树

在这里插入图片描述

题目二

在这里插入图片描述

解题过程

在这里插入图片描述
在这里插入图片描述

题目三

在这里插入图片描述

@aln
关注
决策树 ID3
qq_40141051的博客
04-04 230
决策树可分为两类，一类是分类树(Classification Tree)，主要用于处理离散的数据，比如性别、黑白、胖瘦这样的非连续变量。另一类是回归树(Regression Tree)，主要用于处理连续的数据，比如年龄、身高、体重这样的连续变量。 经典ID3算法： 将具体步骤列出来，如下： 输入:　训练集 D=(x1,y1),(x2,y2),…,(xm,ym); 　　 属性集 A=a1,a2,...
决策树ID3算法
weixin_65258539的博客
11-20 2714
ID3算法的核心是在决策树各个结点上应用信息增益准则选择特征，递归的构建决策树。具体方法是：从根结点开始，对结点计算所有可能的特征的信息增益，选择信息增益最大的特征作为结点的特征，由该特征的不同取值建立子结点；直到所有特征的信息增益均很小或没有特征可以选择为止，最后得到一棵决策树。
决策树ID3例题
weixin_41145305的博客
05-05 5453
表格里统计了14天的气象数据，特征属性包括outlook,temperature,humidity,windy，类别属性为是否打球(play),用ID3算法生成决策树。
决策树ID3算法matlab源代码
11-11
决策树ID3算法matlab源代码片段 function [Tree RulesMatrix]=DecisionTree(DataSet,AttributName) %输入为训练集，为离散后的数字，如记录1：1 1 3 2 1； %前面为属性列，最后一列为类标 if nargin<1 error('请...
决策树源代码合集.rar_ID3决策树_id3_id3 决策树_决策树 ID3_决策树ID3
07-15
在这个“决策树源代码合集.rar”中，包含的是ID3决策树的实现及相关资料，ID3（Iterative Dichotomiser 3）是由Ross Quinlan在1986年提出的，它是早期的基于信息熵和信息增益的分类算法之一。 1. **ID3算法基础** ...
决策树ID3算法实验报告广工（附源码java）
01-10
《决策树ID3算法实验详解——以广工实验为例》 决策树ID3算法是一种经典的机器学习算法，常用于分类任务。本实验报告基于广东工业大学（广工）的人工智能课程，通过具体案例——UCI标准数据集Car-Evaluation，详细...
决策树ID3算法编程（c语言课程设计）
07-13
决策树ID3算法是机器学习领域中的一种经典分类方法，主要应用于数据挖掘和模式识别。在C语言课程设计中，实现ID3算法可以帮助学生深入理解数据处理和算法逻辑。ID3算法是由Ross Quinlan提出的，它基于信息熵和信息...
机器学习之监督学习(四)决策树和随机森林
2301_79376014的博客
09-07 1163
在这棵决策树中，在根结点中选取耳朵形状作为特征，然后根据耳朵尖状或松散分叉成左右子树，左孩子结点选择脸型作为特征，右孩子结点选择胡须作为特征，再进一步分叉后第三层的叶子结点输出类别（是猫/不是猫）。看上图，当选择cat DNA作为特征时，可以发现左边都是猫，右边都是狗，即完全分门别类，左右边纯度都是100%。按第三个特征分裂，左边猫占3/4，右边非猫占2/3，可以发现两个比例都是按第一个特征分裂最高，因此选取第一个特征最优。上面案例中的特征都是二元特征，也就是只有两个取值，这样构建的决策树属于二叉树。
决策树基础概论
hello.reader
09-11 1261
在机器学习领域，决策树（Decision Tree）是一种高度直观且广泛应用的算法。它通过一系列简单的是/否问题，将复杂的决策过程分解为一棵树状结构，使得分类或回归问题的解决过程直观明了。决策树的最大特点在于可解释性强，每个决策节点都代表对特定特征的判断，最终根据这些判断得出结论。决策树适用于多种任务，例如：垃圾邮件分类、病症诊断、股票价格预测等。不仅如此，它还可以处理连续变量和离散变量，并且无需对数据进行过多预处理，如标准化或归一化。为了更好地理解决策树的结构，我们使用Mermaid。
dp算法练习【7】
MADAO的博客
09-08 1431
给你一个按排序的整数数组nums，返回组成的新数组，要求也按排序。平方后，数组变为 [16,1,0,9,100]排序后，数组变为 [0,1,9,16,100]非常简单，思路平方后排序。优化：插入法。
深度优先算法，广度优先算法，hill climbing，贪心搜索，A*算法，启发式搜索算法是什么，比起一般搜索法算法有什么区别
mimo_mimo的博客
09-10 1118
A算法通过维护一个优先队列（通常是最小堆），并根据启发式函数（如g(n) + h(n)，其中g(n)是从起点到当前点的实际距离，h(n)是从当前点到目标点的估计距离）来评估节点的优先级。它从图的某个顶点V0开始，依次访问V0的各个未被访问过的邻接点，然后从这些邻接点出发，再依次访问它们的未被访问过的邻接点，直到图中所有已被访问过的顶点的邻接点都被访问到。它从当前的节点开始，和周围的邻居节点的值进行比较，如果当前节点不是最大的，就用最高的邻居节点来替换当前节点，从而实现向“山峰”的高处攀爬的目的。
洛谷刷题之B2089 数组逆序重存放
resco的博客
09-07 1209
洛谷刷题之B2089 数组逆序重存放
算法练习题22——解码
hello77的blogggg 祝你得偿所愿
09-11 353
小明有一串很长的英文字母，其中可能包含大写和小写字母。在这串字母中，有很多字母是连续且重复的。为了压缩这串字母的表达形式，小明决定将连续相同的字母用“字母 + 出现次数”的形式表示。
代码随想录算法训练营day18|二叉树06
gyuhyhui的博客
09-10 747
示例 2: 输入: root = [3,5,1,6,2,0,8,null,null,7,4], p = 5, q = 4 输出: 5 解释: 节点 5 和节点 4 的最近公共祖先是节点 5。因为根据定义最近公共祖先节点可以为节点本身。那么我们来说一说，如果 root == q，或者 root == p，说明找到 q p ，则将其返回，这个返回值，后面在中节点的处理过程中会用到，那么中节点的处理逻辑，下面讲解。例如，给定如下二叉树: root = [3,5,1,6,2,0,8,null,null,7,4]
二分系列(二分查找)9/12
2301_78191305的博客
09-12 886
排序数组->使用二分。第一个位置:>=；第二个位置:=(target+1)-1；所以直接写一个>=的函数。
选择排序
最新发布
shylyly_的博客
09-13 933
每一次从待排序的数据元素中选出最小（或最大）的一个元素，存放在序列的起始位置，直到全部待排序的数据元素排完
决策树ID3算法实例解析
"这篇资源主要介绍了18种经过审核的机器学习和数据挖掘候选算法，包括分类、统计学习和关联分析等领域的经典方法，并重点解析了决策树ID3算法。文章出自嘉兴学院数学与信息工程学院的杜卫锋，内容涵盖了嘉兴地区的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值