试将对缺失值的处理机制推广到基尼指数的计算中去

最新推荐文章于 2024-10-06 15:57:40 发布
最新推荐文章于 2024-10-06 15:57:40 发布
阅读量1.6k 收藏 7
点赞数 1
分类专栏： 机器学习 文章标签： 决策树 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HWANGYUKAH/article/details/106619734
版权

试将对缺失值的处理机制推广到基尼指数的计算中去

基尼指数的定义

  1. 基尼值：用于描述数据集的纯度，Gini(D)越小说明数据集D的纯度越高

在这里插入图片描述
其中，p_k是指样本集合D中第k类样本所占的频率。

  1. 属性a的基尼指数：

在这里插入图片描述

  1. 在候选属性集合A中，选择那个使得划分后基尼指数最小的属性作为最优划分属性。即

在这里插入图片描述
基于基尼指数算法处理缺失值
（参考了《机器学习》——周志华）
这一部分包含许多参数，直接放上来会出现乱码所以直接截图基于上述定义，我们将基尼指数的计算式推广为
在这里插入图片描述

HWANGYUKAH
关注
专栏目录
基于Python的智能决策支持系统：实现智能化决策的关键要素
AI天才研究院
07-23 1564
智能决策支持系统（Decision Support System, DSS）是利用计算机技术、数据分析和人工智能算法，辅助决策者进行复杂决策的重要工具。随着大数据和人工智能技术的迅猛发展，基于Python的智能决策支持系统越来越受到关注和应用。Python作为一种高效、灵活且功能强大的编程语言，提供了丰富的库和工具，极大地推动了智能决策支持系统的发展。随着大数据和人工智能技术的不断发展，基于Python的智能决策支持系统将在更多领域得到应用和推广。
周志华《机器学习》西瓜书笔记——更到第5章
wzixuan1的博客
02-14 839
监督学习supervised learning=有导师学习：训练数据拥有标记信息，如分类、回归 无监督学习unsupervised learning=无导师学习：训练数据没有标记信息，如聚类 分类classification：欲预测的是离散值的一类学习任务，例如好瓜or坏瓜 回归regression：欲预测的是连续值 聚类clustering：即将训练集中的西瓜分成若干组 簇cluster：每一个组
决策树：信息增益、增益率、基尼指数、剪枝处理、缺失值处理、多变量决策树
我的AI笔记
04-02 1756
一、基本流程 一般来说，一棵决策树包含一个根结点、若干个内部节点和若干个叶结点。 叶结点对应于决策结果，其他每个结点对应于一个属性测试。 每个结点包含的样本根据属性测试的结果被划分到子节点当中。 根节点包含样本全集。 决策树学习的目的是为了产生一棵泛化能力强，即处理未见示例能力强的决策树。 其伪代码如下： 决策树是一个递归的过程。 在决策树基本算法当中，有三种情形会导致递归返回： 当前结点包含...
机器学习（周志华）第四章习题解答
carson0408的博客
08-24 1万+
转自：http://blog.csdn.NET/wzmsltw/article/details/51059394 本文是对周志华的《机器学习》的习题解答，文章整理的很好，为方便之后查看，记录如下～ ～～～ 注：本文中的代码均使用Python，常用工具包包括 pandas，scikit-learn，numpy， scipy，matplotlib等。 4.1试证明对于不含冲突数据（即特
机器学习-周志华-课后习题答案-决策树
热门推荐
Will Lin的博客
04-04 4万+
本文为博主原创，由于没有可以参考的答案，所以内容中若有错误的地方烦请指正，不甚感激。 注：本文中的代码均使用python，常用工具包包括 pandas，scikit-learn，numpy， scipy，matplotlib等。 4.1 试证明对于不含冲突数据（即特征向量完全相同但标记不同）的训练集，必存在与训练集一致（即训练误差为0）的决策树 答：假设不存在与训练集一致的决策
周志华《机器学习》课后习题解析（第四章）：决策树
红色石头的专栏
05-13 1万+
作者 |我是韩小琦链接 |https://zhuanlan.zhihu.com/p/446666944.1 试证明对于不含冲突数据(即特征向量完全相同但标记不同)的训练集，必存在与训...
《机器学习》第四章决策树答案
X_dmword的博客
11-07 9372
1、证明对于不含冲突数据（即特征向量完全相同但标记不同）的训练集，必存在与训练集一致（即训练误差为0）的决策树 anser 1：假设不存在与训练集一致的决策树，那么训练集训练得到的决策树至少有一个节点上存在无法划分的多个数据（若节点上没有冲突数据，那么总是能够将数据分开的）。这与前提-不含冲突数据 矛盾，因此必存在与训练集一致的决策树 anser 2：考虑决策树的生成（书p74图4.2），算法...
《机器学习》西瓜书习题 第 4 章
云玩家
01-26 3501
习题 4.1 试证明对于不含冲突数据 (即特征向量完全相同但标记不同) 的训练集, 必存在与训练集一致 (即训练误差为 0)的决策树. 　　既然每个标记不同的数据特征向量都不同, 只要树的每一条 (从根解点到一个叶节点算一条) 枝干代表一种向量, 这个决策树就与训练集一致. 4.2 试析使用 “最小训练误差” 作为决策树划分选择准则的缺陷. 　　4.14.14.1 说明了如果数据不冲突, 可以完全...
决策树学习笔记
DaMeng999的博客
10-21 1435
一、基本流程 一般的，一棵决策树包含一个根结点，若干个内部结点和若干个叶结点；在叶结点给出决策结果，其它结点则对应于一个属性测试；每个结点包含的样本集合根据属性测试的结果被划分到子结点之中。从根节点到每个叶结点的路径都对应一个判定的序列。决策树的基本流程遵循简单且直观的“分而治之”策略。 输入： 训练集： 属性集： 函数 TreeGenerate(D, A) 从 A 中选择最优划分属性 ai; for ai 的每一个值 aij do 为结...
机器学习-决策树
风少_Hpy的博客
09-22 2194
关闭 我的博客 防冷涂的辣 目录视图 摘要视图 订阅 异步赠书：9月重磅新书升级，本本经典    SDCC 2017之区块链技术实战线上峰会    程序员9月书讯    每周荐书：ES6、虚拟现实、物联网（评论送书） 机器学习(周志华) 参考答案 第四章 决策树
机器学习缺失值处理方法汇总
T_Cage的博客
11-26 3万+
缺失值处理方法综述缺失值是指粗糙数据中由于缺少信息而造成的数据的聚类、分组、删失或截断。它指的是现有数据集中某个或某些属性的值是不完全的。缺失值的产生的原因多种多样，主要分为机械原因和人为原因。 机械原因是由于机械原因导致的数据收集或保存的失败造成的数据缺失，比如数据存储的失败，存储器损坏，机械故障导致某段时间数据未能收集（对于定时数据采集而言）。
决策树
夏未眠秋风起的博客
11-14 210
根据树形结构，一层一层网下判断，直到叶子节点就是所求的判断结果。 一、基本流程如下图：  二、我们从集合中选择最优化分属性有以下方法： 1.信息增益 首先介绍“信息熵”的概念，信息熵用来度量样本纯度 Ent越小，纯度越高，y是样本集合(D)的大小。pk表示第k类样本所占比例。 假定离散属性a有V中可能的取值(a^1,a^2,...a^V),若用a进行划分，则会由V个分支点，每个分支...
树模型为什么自然的处理缺失值
u014204761的博客
09-25 976
树模型处理缺失的方法。    如图，假设有100个样本，针对属性A，有20个样本是缺失值。树模型处理缺失样本的时候，会先忽略属性A缺失的样本，然后采用某种属性选择度量（信息增益、增益率、基尼指数）对剩下的样本（现在有80个）进行分裂。假设将这80个样本分裂到图中的三个节点，三个节点分配到的样本数分别为30、25、25（称这个过程为过程一）。然后将属性A缺失的20个样本均加入到这三个节点中（称这个...
决策树：简单易懂的预测模型
m0_67484548的博客
10-05 506
决策树：简单易懂的预测模型
机器学习课程学习周报十五
weixin_51454889的博客
10-06 1076
本周的学习涵盖了统计推断和贝叶斯推断的基本概念，深入探讨了高斯混合模型中的EM算法及其有效性证明。此外，还介绍了马尔可夫链蒙特卡罗方法中的蒙特卡罗法及其应用。最后，通过Diffusion模型中的马尔可夫链，理解了如何实现图像生成的降噪过程。本周完善了上周学习的EM算法，并且开始学习马尔可夫链蒙特卡罗法，马尔可夫链在Diffusion模型中有特别重要的应用。接来的一周将从理论继续学习马尔可夫链蒙特卡罗法，并结合着实际应用中的Diffusion模型进行参照。
多台三相逆变器并联（本模型为三台并联，市面上多为两台并联）matlab simulink仿真 功能：实现并联系统中各逆变器输出
最新发布
10-09
多台三相逆变器并联（本模型为三台并联，市面上多为两台并联）matlab simulink仿真。 功能：实现并联系统中各逆变器输出功率均分。 （有能力的话还可以研究下垂特性、功率指令以及静态功工作点三者之间的联系） 控制策略：VSG控制策略（同步机控制） 逆变器主电路：三相逆变器，LCL滤波电路，VSG控制模块。 VSG控制模块：定、转子方程，dq变，电压电流双闭环，预同步，pwm发生器。
Ringtones波点音乐-《Lightning Moment》.mp3
10-09
Ringtones波点音乐-《Lightning Moment》.mp3
onnx2onnx-0.3.1.tar.gz
10-09
onnx2onnx-0.3.1.tar
Python3.5 Pandas处理缺失值与层次索引实例深度解析
- 虽然本例没有直接涉及层次索引，但理解了缺失值处理后，可以在实际应用中根据需要对数据进行分组和重组，形成层次索引。 总结来说，这篇文章提供了Python3.5 Pandas模块中缺失值处理的基本操作方法，包括识别...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值