机器学习总结3 #博学谷IT学习技术支持#

最新推荐文章于 2024-07-25 22:24:14 发布
最新推荐文章于 2024-07-25 22:24:14 发布
阅读量83 收藏
点赞数
文章标签： 机器学习 学习 决策树
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_27930237/article/details/125126292
版权

目录

七、CART 分类决策树

1. Cart树简介

2. 基尼指数计算公式

3. 基尼指数计算举例

3.1 是否有房

4. Cart分类树原理

 

 

七、CART 分类决策树

1. Cart树简介

  CART 决策树 定义： 使用基尼指数构建的决策树成为 CART 决策树

Cart模型是一种决策树模型，它即可以用于分类，也可以用于回归，其学习算法分为下面两步：

（1）决策树生成：用训练数据生成决策树，生成树尽可能大

（2）决策树剪枝：基于损失函数最小化的剪枝，用验证数据对生成的数据进行剪枝。

分类和回归树模型采用不同的最优化策略。Cart回归树使用平方误差最小化策略，Cart分类生成树采用的基尼指数最小化策略。

Sc

最低0.47元/天 解锁文章
qq_27930237
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于基尼指数的决策树特征选择算法（CART）及其python实现
qq_33700236的博客
06-05 9583
基于基尼指数的决策树特征选择算法（CART）及其python实现 基尼指数 与信息增益和增益率类似，基尼指数是另外一种度量指标，由CART决策树使用，其定义如下： 对于二类分类问题,若样本属于正类的概率为 p，则基尼指数为： 对于给定的样本集合D，其基尼指数定义为： 其中Ck是D中属于第k类的样本子集。 如果样本集合D被某个特征A是否取某个值分成两个样本集合D1和D2，则在特征A的条件下，集合D的基尼指数定义为： 基尼指数Gini(D)反应的是集合D的不确定程度，跟熵的含义相似。Gini(D,A)反
机器学习入门研究（九）-决策树
nihaomabmt的专栏
12-03 1201
目录 认识决策树 信息熵 1.信息 2.信息熵 ID3算法 C4.5算法 GART sklearn的API 鸢尾花实例 决策树的可视化的API 总结 认识决策树 其实就是程序的if-else结果。 我们看一下这个例子，已知年龄、工作、房子、信贷情况来判断是否把贷款给个人。我们通过这些样本内容进行学习，来预测如果已知某个人的这些特征对应的特征值的时候，就可以判断是否...
【机器学习】gini系数的计算
m0_61466268的博客
03-23 6725
ID 有房者 婚姻 年收入 拖欠贷款者
决策树⑤——Python代码实现决策树 Decision_tree-python（ID3，C4.5，CART）
机器学习初学者必看，关注我，一起了解机器学习
05-09 1264
Decision_tree-python 决策树分类（ID3，C4.5，CART） 三种算法的区别如下： (1) ID3算法以信息增益为准则来进行选择划分属性，选择信息增益最大的； (2) C4.5算法先从候选划分属性中找出信息增益高于平均水平的属性，再从中选择增益率最高的； (3) CART算法使用“基尼指数”来选择划分属性，选择基尼值最小的属性作为划分属性. 本次实验我的数据集如下所示： 共分为四个属性特征：年龄段，有工作，有自己的房子，信贷情况; 现根据这四种属性特征来决定是否给予贷款 为了方便，我对
机器学习总结1 #博学谷IT学习技术支持#
qq_27930237的博客
07-18 168
目录 一、K近邻 KNN 二、线性回归 三、逻辑回归 四、决策树 一、K近邻 KNN 1 K近邻算法是一个分类算法。 算法实现步骤，先选出一个k值，计算一个新的样本点，到，所有已知样本点的距离。找出其中最近的k个距离，用着k个最相邻的样本点，对新的样本点进行投票。票最多的那个标签就是这个新的样本点的标签。 K值的选择，可以通过交叉验证法网格搜索。Grid SearchCV， 分类评估方法，通过计算准确率来评估，accuracy_score 二...
机器学习总结2 #博学谷IT学习技术支持#
qq_27930237的博客
07-25 298
目录 五 ID3决策树 1 信息熵 2 信息增益 六、C4.5 决策树 1. 信息增益率计算公式 2. 信息增益率计算举例 五 ID3决策树 ID3 决策树 定义：使用信息增益构建的决策树成为 ID3 决策树 1 信息熵 信息熵，代表随机变量不确定度的度量。信息熵越大，不确定性越高，信息熵越小，不确定性越低。 2 信息增益 信息增益，表示由于特征a使得对于数据集D的分类不确定性减少程度，可以理解为贡献。A，对于数据的分类贡献越大。那么信息增益就越大，选择信息增益最大的特征..
机器学习分类 #博学谷IT学习技术支持#
qq_27930237的博客
06-27 150
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、监督学习 1.1分类问题 1.2回归问题 总结 前言 随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的分类。 一、监督学习 监督学习指的是人们给机器一大堆标记好的数据，比如： 一大堆照片，标记出哪些是猫的照片，哪些是狗的照片 让机器自己学习归纳出算法或模型 使用该算法或模型判断出其他没有标记的照片是否是猫或狗 ...
机器学习 #博学谷IT学习技术支持#
qq_27930237的博客
06-20 96
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、机器学习 二、机器学习概念 1.基于规则的学习 2.基于模型的学习 总结 前言 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 一、机器学习 机器学习是研究如何使计算机能够模拟或实现人类的学习功能，从大量的数据中发现规律，提取知识，并在实践中不断地完善和增强自我。机器学习是机器获取知识的根本途...
机器学习，深度学习，环境搭建 #博学谷IT学习技术支持#
qq_27930237的博客
05-30 241
一 Anaconda 1Anaconda环境搭建 Anaconda 是最流行的数据分析平台。，附带了一非常用数据科学包，是在conda(一个包管理器和环境管理器。)上发展出来的。包含了虚拟环境管理工具，通过虚拟环境可以使不同的Python或者开源库的版本，同时存在。它可以用于多个平台Windows，Mac OS X和Linux。 可以在官网上下载对应平台的安装包，安装过程很简单，一路下一步。Linux下安装。先上传文件。通过ls命令查找上传的文件,来确认是否已经上传。添加可执行权限...
## TensorFlow机器学习系统
09-22
它拥有一个全面而灵活的生态系统，其中包含各种工具、库和社区资源，可助力研究人员推动先进机器学习技术的发展，并使开发者能够轻松地构建和部署由机器学习提供支持的应用。TensorFlow机器学习系统最初是由Google...
## 机器学习介绍、算法、项目及习题
07-08
最后，提供了一些习题，帮助读者进一步理解和掌握机器学习技术。 通过本项目，读者可以全面了解机器学习的基本原理和常见算法，并通过实际项目练习提高动手能力。这对于掌握机器学习技术、解决实际问题非常有帮助。...
#周志华老师 #机器学习 #西瓜书实验集合
01-29
无需积分，欢迎参考
机器学习总结
06-01
### 机器学习总结 #### 一、引言与哲学思考 ...综上所述，《机器学习总结》不仅是一份技术性的总结，更是一次深刻的哲学反思。它提醒我们，在追求技术和理论的同时，不要忘记思考学习本身的意义。
Garfield247#Accumulation#08机器学习KNN1
07-25
分类问题：# 训练数据# 类标签# 1. 确定机器学习的模型# n_neighbors 的取值会影响分类结果，需手动调试，选择评分最高的参数最佳# 2.训练数据
Python 机器学习求解 PDE 学习项目——PINN 求解二维 Poisson 方程
qq_39538718的博客
07-23 1614
Python 机器学习求解 PDE 学习项目——PINN 求解二维 Poisson 方程
【机器学习算法基础】（基础机器学习课程）-08-决策树和随机森林-笔记
g1997c的博客
07-23 790
决策树通过选择能够最大化信息增益或最小化基尼指数的特征来进行数据的划分。最终，我们得到的树结构可以帮助我们做出分类或回归的决策。假设我们要根据天气情况（晴天、阴天、雨天）和温度（高、中、低）来决定是否去公园。熵：初始情况下，不知道天气和温度时，去公园和不去公园的比例是50/50，熵较高。条件熵：根据天气情况，发现晴天去公园的比例很高，雨天去公园的比例很低。信息增益：选择天气作为第一个划分特征，因为它能最大程度减少熵。增益率。
【机器学习】如何在Jupyter Notebook中安装库以及简单使用Jupyter实现单变量线性回归的模型f
m0_49243785的博客
07-24 1014
一个简单的线性回归的模型的实现过程
AvaloniaUI的学习
最新发布
lishuangquan1987的博客
07-25 627
官方中文文档：https://docs.avaloniaui.net/zh-Hans/docs/welcome。
南京大学机器学习：支持向量机原理与应用
在机器学习领域，第六章的内容主要聚焦于支持向量机（Support Vector Machine, SVM）这一关键概念。支持向量机的名称源于其核心理念，即学习过程中的关键在于通过支持向量来构建分类决策边界。这些支持向量是离超...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值