decision tree

最新推荐文章于 2024-08-29 16:37:54 发布
最新推荐文章于 2024-08-29 16:37:54 发布
阅读量201 收藏
点赞数
分类专栏： Machine Learning 文章标签： 决策树 算法 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhangt766/article/details/122654443
版权

现在有天气，温度，湿度，风四个特征，来构造是否打球决策树。

问：究竟该选哪个变量做跟特征呢

 

第一步：观察数据，统计yes/no的个数 （no=5，yes=9）, 算出目前的熵

 第二步：对每个特征做节点时计算出信息熵

 那么ID3算法，有什么bug吗？？？ of course yesss !!!

有的特征，分类种类多，每个种类所占样本少，这样算出来信息熵很高。比如，在这个例子中，假如现在有一个新的特征叫ID，ID共有14个种类（我们的数据正好14行），这样算出来gain最大。

为了解决这种情况，引入了信息增益率C4.5=信息增益率/自身的熵

在决策树的构造中还有另外一个问题

zhangt766
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
matlab decision tree,View Decision Tree
weixin_32559133的博客
03-16 209
View Decision TreeThis example shows how to view a classification or regression tree. There are two ways to view a tree: view(tree) returns a text description and view(tree,'mode','graph') returns a g...
Python实现Decision Tree
BIG_Ribbit的博客
01-05 1645
前言 这篇文章是我用Python对Decision Tree的简单实现，不包含剪枝功能。另外，这个Decision Tree只适用于连续性特征值，离散型的以后有机会再补充。数据集为iris。 1. 导入所需包 import numpy as np import pandas as pd from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split 2. 加载数据 iris = load
matlab decision tree,Decision Tree in Matlab
weixin_32207033的博客
03-16 183
The documentation page of the function classregtree is self-explanatory...Lets go over some of the most common parameters of the classification tree model: x: data matrix, rows are instances, cols ar...
Decision Tree
hongo0o0的博客
10-09 242
basic knowledge of Decision Tree
以决策树(Decision Tree)作为入门
nine_mink的博客
03-13 843
就，没啥可多说的。第一个定义可读性更强，第二个定义专业性更强，根据个人喜好喜欢哪个就去理解哪个吧。我个人是更喜欢第二个，因为在看身为百度AI首席工程师（不知道现在还是不是）的吴恩达Deep Learning 课程的时候，他就是使用这个定义入门的，虽然比较绕口，但是确确实实是ML这个东西做事的本质。这篇文章以及这个系列会包含很多UoA上课讲的一些内容，完全是个人学习的理解以及笔记记录，没有任何商业用途，侵必删。
决策树(Decision Tree)
热门推荐
crossoverpptx的博客
06-20 1万+
决策树，顾名思义，就是帮我们做出决策的树。现实生活中我们往往会遇到各种各样的抉择，把我们的决策过程整理一下，就可以发现，该过程实际上就是一个树的模型。more决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树，这里我们只讨论分类树。比如选择好瓜的时候：我们可以认为色泽、根蒂、敲声是一个西瓜的三个特征，每次我们做出抉择都是基于这三个特征来把一个节点分成好几个新的节点。
决策树 Decision Tree
JasonH2021的博客
05-27 3849
本文主要简单介绍了决策树的基本概念，优缺点，应用场景，决策树建模时的注意事项，python的实现方法，案例和模型参数等。
Numpy实现DecisionTree
AI浩
11-26 3032
from __future__ import division, print_function import numpy as np from mlfromscratch.utils import divide_on_feature, train_test_split, standardize, mean_squared_error from mlfromscratch.utils import calculate_entropy, accuracy_score, calculate_variance
sklearn DecisionTree tree_
卡萨布兰卡
04-22 383
Sklearn API - Understanding the decision tree structure Array-based representation of a binary decision tree. The binary tree is represented as a number of parallel arrays. The i-th element of each...
Decision Tree_decisiontree_决策树_python_
10-04
`sklearn.tree`包含了决策树模型的构建和评估工具，而`sklearn.datasets`可以用来加载数据集，如鸢尾花（Iris）数据集，这是决策树学习的经典示例。 1. **数据预处理**： 在训练模型之前，我们需要对数据进行...
DecisionTree
05-30
在提供的`DecisionTree.cpp`和`DecisionTree.h`文件中，可能包含了决策树的类定义（如`DecisionTreeNode`和`ID3Tree`）、数据结构定义、ID3算法的实现以及训练和预测函数。通过对这些文件的阅读和理解，我们可以学习...
DecisionTree.jl:决策树 (CART) 和随机森林算法的 Julia 实现
08-04
决策树.jl 决策树 (CART) 和随机森林算法的 Julia 实现 可通过： - 使用简单的表达式创建复杂的 ML 管道...您可以使用 Julia 的包管理器安装 DecisionTree.jl Pkg . add ( " DecisionTree " ) ScikitLearn.jl API
【人工智能 | 机器学习 | 理论篇】决策树（decision tree）
qq_49150070的博客
08-27 1241
决策树
Level3 — PART 4 机器学习算法 — 决策树
L
08-27 202
决策树主要由节点和有向边构成，节点主要分为和（1）根结点（root node）：没有入边，但有零条或多条出边（2）内部结点（internal node）：恰有一条入边和 两条或多条出边（3）叶结点（leaf node）：恰有一条入边，无出边。如图：虽然在一些资料中提到外部节点，但在决策树的基本构成中，外部节点并不是一个独立的节点类型。通常，叶节点已经涵盖了外部节点的概念，即它们是决策树的最终输出点。决策树既可以用来解决分类问题，也可以用来解决回归问题，通常分为和。
趣味算法------试用 6 和 9 组成的最大数字
markingyi的博客
08-26 548
给出一个数字，反转其中一位使数字最大化，递归求解。
递归、搜索与回溯算法
最新发布
无聊_人的博客
08-29 2536
所谓的递归其实就是函数自己调用自己的情况。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值