吃瓜教程TASK03

最新推荐文章于 2024-08-27 16:38:10 发布

行至568

最新推荐文章于 2024-08-27 16:38:10 发布

阅读量57

点赞数

文章标签： python 机器学习决策树剪枝

本文链接：https://blog.csdn.net/weixin_60006489/article/details/131981332

版权

第四章决策树

几个基础公式

信息熵

### 信息增益

增益率

单纯使用信息增益作为选择最优划分属性的指标,会导致对可取值数目较多的属性有所偏好,决策树更易缺少泛化性,因此使用"增益率"作为选择指标.
在这里插入图片描述 IV(a)是属性a的固有值，a属性的取值可能数目越多，固有值越大。增益率对可取值数目较少的属性有所偏好。

基尼指数

基尼指数是在基尼值的基础上计算的，基尼指数越小则数据集纯度越高。

剪枝处理

决策树对付过拟合的主要手段

预剪枝

在决策树生成过程中对每个节点进行评估，除去对决策树泛化性能无帮助的节点

后剪枝

先生成决策树，再从下往上考察节点，精简决策树。

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

行至568

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
1
评论
吃瓜教程TASK03

决策树
复制链接

扫一扫

吃瓜教程Task03

m0_57142809的博客

07-22

吃瓜教程task03

m0_50508646的博客

01-26

吃瓜教程task03

1 条评论您还未登录，请先登录后发表或查看评论

吃瓜教程task03--决策树

weixin_46512147的博客

09-21

按照划分准则（特征选择的评价标准）1.ID3决策树：信息增益2.C4.5决策树：增益率（ID3改良）3.CART决策树：基尼指数4.剪枝处理：解决过拟合决策树达到最纯净划分的目标需要进行：建树和剪枝【算法逻辑】最终目的：划分后提高样本纯度，将样本越分越纯（信息熵度量纯度）

暑期吃瓜教程Task03学习笔记打卡

lxy13966988476的博客

07-22

吃瓜教程task03 第4章 决策树

qq_31254785的博客

05-26

145

第四章 决策树 2022/5/26 雾切凉宫至4.2节/视频P6 文章目录第四章 决策树4.1 基本流程p6 决策树p6.1 算法原理4.2划分选择p6.2 ID3决策树自信息信息熵(自信息的期望)纯度条件熵信息增益ID3决策树p6.3 C4.5决策树增益率p6.4 CART决策树基尼值基尼指数CART决策树 4.1 基本流程 p6 决策树 p6.1 算法原理从逻辑角度，-堆if else语句的组合从几何角度，根据某种准则划分特征空间最终目的:将样本越分越“纯” 4.2划分选择 p6.2 ID3决策

吃瓜教程Task2

weixin_46457884的博客

11-18

166

线性模型

吃瓜教程-Task03

BIT_mk的博客

07-30

251

比如说，如果我们用一个人的身份证号来预测他的身高，虽然按照身份证号进行划分可以得到完全纯净的子集（每个人的身份证号都不同，所以每个子集中只有一个样本），信息增益也很大，但显然这样的模型没有任何泛化能力，对新的未知样本的预测能力也非常差。相反，如果一个节点的样本均匀地分布在各个类别中，那么这个节点的Gini系数就是最大的（对于二分类问题，最大的Gini系数是0.5）。比如，假设你在建立一个预测是否喜欢阅读的决策树，有两个人，他们的属性（年龄，性别，职业等）都完全相同，但一个人喜欢阅读，另一个人不喜欢。

吃瓜教程 task1

2401_83735881的博客

04-17

571

这一章主要介绍了一些机器学习的一些基本概念，对机器学习有了更深入的了解。数据集(data set)、示例（） or 样本（sample）、属性（attribute）属性值（attribute value）、（attribute space） or 样本空间 or 输入空间：这三个是同一个意思，属性张成的空间。机器学习主要分两类有：主要有分类和回归两种类型：聚类为代表，不需要标记信息，聚类：将训练集中的数据分成若干个组，每个组称为一：可能拟合训练集的模型：所有能够拟合训练集的模型构成的集合。

Datawhale吃瓜教程Task1

Nature_park的博客

07-12

307

西瓜书一二章笔记

【DW组队学习—吃瓜教程】task2：概览西瓜书+南瓜书第3章

07-19

【DW组队学习—吃瓜教程】task2：概览西瓜书+南瓜书第3章是针对机器学习领域的深入学习任务，旨在通过分享和交流学习笔记来增进对相关知识的理解。这一章节的学习主要聚焦于两本重要的教材——《西瓜书》（即《统计...

（机器学习周志华西瓜书南瓜书）吃瓜教程 Task01

橘子冰的博客

07-13

563

目录1.3 假设空间1.4 归纳偏好你好！这是你第一次使用 Markdown编辑器所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 1.3 假设空间学习过程：在所有假设空间中搜索，为了使搜索结果与训练集一致，可以修改或删除假设。那么西瓜的色泽、根蒂、敲声就是样本的属性/特征，假设空间就是由数据集属性/特征的所有值组成的空间。学习过程就是就是学习符合“好瓜”特征的值。所有假设空间：倘若“色泽”有3种取值，那样本空间则为4

吃瓜教程Task4:神经网络西瓜书第五章

iloveMIShanhan的博客

10-23

242

吃瓜教程task4

Datawhale7月“吃瓜教程”Task01打卡

qqqqqqqin的博客

07-13

251

ps:本文为记录参与Datawhale-7月吃瓜教程的学习笔记 Task01——概览西瓜书+南瓜书1、2章 1 绪论 1.1 引言通过根据已有的经验来预测判断西瓜“好坏”与否来引入机器学习的概念。 机器学习：一门致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。 1.2 基本术语数据集（data set）：一组记录的集合。示例（instance）/样本（example）：数据集中的一条对事件或对象的记录。属性（attrribute）/特征（fe

如何在Python中使用IP代理

IPIPGO的博客

08-23

3293

通过以上步骤，你应该已经学会了如何在Python中使用IP代理。无论是单个代理IP、带认证的代理IP，还是批量使用代理IP，这些方法都能帮助你在实际项目中灵活应用。希望这篇文章对你有所帮助，如果你有任何问题或建议，欢迎在评论区留言，我们会尽力为你解答。t=N7T8。

python 实现convolution neural network卷积神经网络算法

luthane的博客

08-26

4860

卷积神经网络（Convolutional Neural Networks, CNN）是一种包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks, FNN），是深度学习的代表算法之一。基本原理CNN的核心思想是通过模拟人类视觉系统的工作方式，自动提取图像中的特征，并将其用于分类、检测、分割等任务。它主要受到了生物学上感知机制的启发，模拟了人类视觉系统中的感知细胞和复杂细胞的工作方式。

python12 中，No module named‘distutils‘错误

qq_43557600的博客

08-27

2691

python12 “ No module named'distutils' ”, 安装 pip install setuptools ，解决

【python计算机视觉编程——1.基本的图像操作和处理】

m0_53694086的博客

08-26

4298

参数sigma为标准差（σ），是高斯滤波器的一个重要参数，它控制滤波器的平滑程度。标准差越大，高斯函数的曲线越宽，滤波器的影响范围就越大。标准差较大: 高斯滤波器会在更大范围内进行平滑，使得图像变得更加模糊，细节和边缘特征会被更强地平滑掉。标准差较小: 高斯滤波器会产生较小范围的平滑效果，图像的细节保留更多。还可以给定转换矩阵，将RGB图像转换为CIE XYZ色彩空间。图像像素值被分成128个区间，用于计算每个区间的像素值频率。可以返回目录中所有jpg图像的列表。

centos7 安装 superset4.0.2 教程