决策树桩(Decision Stump)

于 2022-05-11 21:06:03 发布
阅读量3.3k 收藏 9
点赞数 4
分类专栏： 算法 文章标签： 决策树
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42148307/article/details/124713440
版权

1. 何为决策树桩？

 

单层决策树（decision stump），也称决策树桩，它是一种简单的决策树，通过给定的阈值进行分类。

​

从实际意义上来看，决策树桩根据一个属性的单个判断(但是实际上待判断的物体具有多个属性)就确定最终的分类结果。这种特性比较适合做集成学习中的弱学习器，因为其至少比随机的效果好一些，又计算较为容易。

2. 关键问题

根本目的：通过选择一个合适的决策树桩(弱学习器)，使得物体类别识别准确率尽可能高。

怎么选择一个合适的决策树桩？

  1. 从所有属性中，选择那个属性作为决策树桩(弱学习器)
  2. 该决策树桩的阈值设定为何值(上图中是1.75)？
  3. 是小于阈值识别为1(yes)，还是大于阈值识别为1(yes)。一般情况下设定为小于。

3. MATLAB代码实现

了解本专栏 订阅专栏 解锁全文 超级会员免费看
机器学习之决策树桩或决策残端(Decision Stump)
JustinMars的博客
03-27 185
决策树是一种常见的机器学习模型，它由一个树状结构组成，每个节点代表一个特征属性的决策规则，而每个叶子节点代表一个类别标签或者是一个数值输出。决策树的每个节点都会根据一个特征属性进行划分，直到达到某个停止条件为止，例如节点中的样本数量小于某个阈值，或者树的深度达到了预设的最大深度。决策残端（Decision Stump）是一种特殊类型的决策树，单层决策树，也称决策树桩。它仅包含一个根节点和两个叶子节点。通常用于二分类任务。在这个节点上，仅基于一个特征进行简单的分类，而不考虑其他特征。
Signal prediction based on boosting and decision stump
qq_42148307的博客
05-13 278
1. 基本介绍： 改论文题目的中文意思：基于boosting和decision stump(决策树桩)的信号预测。 论文下载 Shi L, Duan Q, Dong P, et al. Signal prediction based on boosting and decision stump[J]. International Journal of Computational Science and Engineering, 2018, 16(2): 117-122. 该期刊虽然没有被SC
机器学习基础（十八） —— decision stump
hftytf的博客
02-26 3850
机器学习基础（十八） —— decision stump
决策树树桩实现
qq_34661106的博客
10-25 1630
西瓜书中决策树树桩的实现，即只分类一次，是弱分类器，效果极差。 主要目的是作为adaboost等集成学习方法的基分类器，这里不给出adaboost代码，因为好久以前写的，当时有问题也懒得改了。。。。。。 scala实现 import org.apache.spark.{SparkConf, SparkContext} import org.apache.spark.rdd.RDD imp...
【机器学习算法-python实现】Adaboost的实现(1)-单层决策树(decision stump)
Garvin的专栏
05-06 9519
(转载请注明出处：http://blog.csdn.net/buptgshengod) 1.背景      上一节学习支持向量机，感觉公式都太难理解了，弄得我有点头大。不过这一章的Adaboost线比较起来就容易得多。Adaboost是用元算法的思想进行分类的。什么事元算法的思想呢？就是根据数据集的不同的特征在决定结果时所占的比重来划分数据集。就是要对每个特征值都构建决策树，并且赋予他们不同的
Decision stump、Bootstraping、bagging、boosting、Random Forest、Gradient Boosting
AI小作坊 的博客
12-11 768
1）首先来看看 Decision stump https://en.wikipedia.org/wiki/Decision_stump A decision stump is a machine learning model consisting of a one-level decision tree.[1] That is, it is a decision tree with one in
机器学习笔记24——单层决策树（decision stump）原理以及python实现
weixin_45666566的博客
08-15 6257
单层决策树1、概述2、构建 1、概述 \quad \quad单层决策树（decision stump），也称决策树桩，它是一种简单的决策树，通过给定的阈值，进行分类。如下图所示（仅对 petal length 进行了判断）： 从树（数据结构）的观点来看，它由根节点（root）与叶子节点（leaves）直接相连。用作分类器（classifier）的 decision stump 的叶子节点也就意味着最终的分类结果。 从实际意义来看，decision stump 根据一个属性的一个判断就决定了最终的分类结果
决策树(Decision Tree)
Code_Tookie的博客
03-13 485
决策树 最近要学习的东西很多，今天看了决策树和集成学习。感觉内容不是很复杂，其中决策树的内容我在信息论课上也学过。所以来写篇博客记录一下。 这篇博客的主要参考资料是周志华老师的西瓜书《机器学习》 决策树是什么 决策树是一类常见的机器学习方法。顾名思义，决策树是基于树结构来进行决策的，这恰是人类在面临决策问题时一种很自然的处理机制。我们对一个东西的多个属性进行依次判别，最后得到最终决策。 一般的，一...
Trading-Strategy-Decision-Stump-AdaBoost:使用 Decision Stump+AdaBoost 的交易策略
06-11
本项目“Trading-Strategy-Decision-Stump-AdaBoost”探索了一种结合机器学习算法——决策树桩（Decision Stump）与 AdaBoost 的交易策略。这种策略利用了 R 语言强大的统计计算和数据分析能力，下面我们将详细讨论...
基于Decision Stump与AdaBoost的高效交易策略
2. **决策树桩（Decision Stump）**: 决策树桩是一种非常简单的决策树模型，它仅包含一个决策节点和两个叶节点。在机器学习中，决策树桩通常作为基学习器（base learner）在集成学习方法中使用。它通常用于处理多...
Boosting-for-Classification:在这个例子中，我在决策树桩上运行 boosting 并展示了 boosting 对分类问题的力量
07-05
这是每个文件的简短描述： decisionStump.m ：在数据集上运行决策树桩。 adaBoost.m ：在模型上运行提升并返回新模型。 boostingDemo.m ：绘制单个决策树桩和提升决策树桩的结果。 binary.mat ：这是数据。
机器学习入门学习笔记（三）决策树
chengdong996的博客
07-08 1920
一、基本流程 决策树(decision tree)是一类常见的机器学习方法。它是基于树结构来进行决策的，这恰是人类在面临决策问题时一种很自然的处理机制。 决策树学习的目的是为了产生一棵泛化能力强，即处理未见示例能力强的决策树，其基本流程道循简单且直观的“分而治之”(divide-and-conquer)策略。 1.1 决策树的结构 一般的，一棵决策树包含一个根结点、若干个内部结点和若干个叶结点。 根结点：包含样本全集； 内部结点：对应一个“子决策”，其包含的样本集合 根据属性测试的结果被划分到子结点中； 叶
机器学习基石作业二中的DECISION_STUMP实现
萝卜地里的兔子的博客
12-18 2256
        概要：在林老的题目描述中，DECISION_STUMP（其实就是“决策桩”，也就是只有一层的决策树）。题目中提到了的选去是把属性（一维的）按照从小到大的顺序排列以后取两个挨着的值的平均值，网上有人的实现会在开头和结尾的值手动去加一个小于最小的值，一个大于最大的值；添加的两个值的大小是多大合适，这是个问题。带来的另外一个问题就是，解释性变差了；就像《西瓜书》上说的，我们按西瓜的甜度区...
机器学习基石 作业2 实现1维和多维Decision Stump
w1d2s的专栏
10-10 1528
实现1维和多维的Decision Stump 多维训练数据：https://d396qusza40orc.cloudfront.net/ntumlone%2Fhw2%2Fhw2_train.dat  多维测试数据： https://d396qusza40orc.cloudfront.net/ntumlone%2Fhw2%2Fhw2_test.dat  #!/usr/bin/env pyt
【转载】AdaBoost / Decision Stumps
ttxzszxy的博客
06-29 446
http://www.cnblogs.com/chaosimple/p/4029795.html
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

身影王座

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值