人工智能面试总结-决策树

已于 2022-06-01 11:32:32 修改
阅读量1.5k 收藏
点赞数 5
分类专栏： 深度学习|机器学习面试总结 文章标签： 决策树 人工智能 面试
于 2022-02-26 22:24:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zzh516451964zzh/article/details/123155833
版权
本文详细介绍了决策树的基本概念、原理，包括划分标准如信息增益、信息增益率和基尼系数，以及ID3和C4.5的区别。讨论了决策树的剪枝策略、处理离散特征的方法和优缺点，还探讨了过拟合的原因及解决办法，对比了决策树与逻辑回归的差异，并解析了决策树的损失函数和算法流程。
摘要由CSDN通过智能技术生成

在这里插入图片描述
B站：啥都会一点的研究生

公众号试读：啥都会一点的研究生

目录

说说决策树？

 决策树（decision tree）是一个树结构（可以是二叉树或非二叉树）。每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某值域上的输出，而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。

说说决策树原理？

 ​决策树（Decision Tree）是一种分而治之的决策过程。一个困难的预测问题，通过树的分支节点，被划分成两个或多个较简单的子集，从结构上划分为不同的子问题。将依规则分割数据集

了解本专栏 订阅专栏 解锁全文 超级会员免费看
啥都生
关注
专栏目录
订阅专栏
人工智能面试总结-Boosting&Bagging
啥都生的博客
02-27 1543
目录说说集成学习方法有哪些？说说Boosting算法？说说Bagging算法？介绍下AdaBoost、GBDT、XGboost、LightGBM、RF算法？说说Adaboost的优缺点？说说LightGBM与XGBoost的区别？说说XGBoost、GBDT的区别？说说XGBoost的block结构？说说随机森林与GBDT区别？说说GBDT是否适合于处理大规模的ID特征？说说GBDT算法步骤？说说GBDT为什么使用决策树作为基学习器？说说GBDT的G梯度的向量长度为多少？说说LightGBM的直方图排序后会
人工智能算法面试大总结-总目录
热门推荐
啥都生的博客
09-15 1万+
涉及秋招、春招、社招
20240323-2-决策树面试题DecisionTree
qq_24428851的博客
03-31 1020
决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。决策树将算法组织成一颗树的形式。其实这就是将平时所说的if-then语句构建成了树的形式。决策树主要包括三个部分：内部节点、叶节点、边。内部节点是划分的特征，边代表划分的条件，叶节点表示类别。构建决策树 就是一个递归的选择内部节点，计算划分条件的边，最后到达叶子节点的过程。
【人工智能高频面试题--基础篇】
qq_45832651的博客
02-25 1742
人工智能面试题，他来了！
数据分析入门系列教程-决策树原理
数据森麟
11-09 624
公众号后台回复“图书“，了解更多号主新书内容作者：周萝卜来源：萝卜大杂烩今天我们一起来学习决策树，那么什么是决策树呢，其实在生活中，我们无时无刻不在使用它。比如现在有朋友给海伦介绍约...
机器学习：决策树 -- 学习笔记
Sail的博客
01-19 949
参考文章 决策树算法原理(上) - 刘建平Pinard - 博客园 决策树算法原理(下) - 刘建平Pinard - 博客园 李航《统计学习方法》第二版 决策树算法 决策树学习算法包含： 特征选择 决策树生成 决策树的剪枝 下面会分别对三个部分进行一定的总结，参考资料主要来自于《统计学习方法》。 决策树模型基本思想 决策树学习本质上是从训练数据集中归纳出一组分类规则。 与训练数据集不相矛盾的决策树（即能对训练数据进行正确分类的决策树） 可能有多个， 也可能一个也没有。 我们需要的是一个与训练数据
数据挖掘--决策树
2301_81887304的博客
01-03 1343
In [9]no=0 # 决策树节点的编号column=0 # 该节点的属性entropy=0 # 交叉熵samples=0 # 该节点下的数据数目value=[] # 记录由该节点划分的不同类别的数据split=0 # 分类临界值clss=-1 # 该节点的分类branch_positive=None # 左分支branch_negative=None # 右分支本项目通过自行搭建决策树和使用sklearn提供的决策树进行实验，在Adult数据集的测试集上取得了一致的结果。
机器学习3-决策树
qq_42012732的博客
05-09 431
目录前言信息熵决策树ID3算法决策树ID3算法缺点决策树C4.5算法决策树C4.5算法缺点CART分类树算法CART分类树算法缺点决策树优缺点总结优点缺点面试问题 前言 决策树既可以作为分类算法，也可以作为回归算法，同时也特别适合集成学习比如随机森林。 信息熵 熵度量了事物的不确定性，越不确定的事物，它的熵就越大。具体的，随机变量X的熵的表达式如下： H(X)=−∑i=1npilogpiH(X) = - \sum_{i=1}^{n}{p_ilogp_i}H(X)=−i=1∑n​pi​logpi​ 多个个变量
决策树原理总结（ID3、C4.5、CART）+ 常见面试问题
A496608119的博客
06-02 2650
系统梳理树类型算法原理加常见面试问题 类容按照决策树、Adaboost、GBDT、XGBoost、LightGBM 顺序进行梳理 本次的重点类容是决策树的CART树 ID3、C4.5介绍请转移到：ID3、C4.5的原理与案例介绍 1. CART树 ID3与C4.5虽然可以通过多叉树尽可能的挖掘特征信息，但是随着数据量的增加，其决策树分支也会大量增多。CART算法的二分法简化了决策树的规模，提高了生成决策树的效率。 1.1 CART分类树实现过程 输入： 训练集D，基尼系数的阈值，切分的最少样本个数阈值.
百面机器学习—3.逻辑回归与决策树要点总结
柳杰的博客
04-14 1474
文章目录一、逻辑回归1.逻辑回归公式推导2.逻辑回归优缺点是什么？3.为什么逻辑回归需要归一化？4.对于逻辑回归，连续特征离散化的作用是什么？5.逻辑回归能否解决非线性的分类问题？二、决策树1.决策树的算法（ID3，C4.5，CART）总结1.1 ID3—信息增益1.2 C4.5—信息增益比1.3 CART—基尼指数1.4 三种算法对比2.为什么决策树需要剪枝？如何进行剪枝？3.为什么信息增益比比信息增益更佳？4.决策树的优缺点是什么？ 一、逻辑回归 1.逻辑回归公式推导 可以从下面四个方面展开：伯努利过程
决策树（一）：决策树实战
悟兰因的博客
09-13 807
另外，由于信息熵对不纯度更加敏 感，所以信息熵作为指标时，决策树的生长会更加“精细”，因此对于高维数据或者噪音很多的数据，信息熵很容易过拟合，基尼系数在这种情况下效果往往比较好。但此时输入数据，如[7，7]时，左树预测为类别0，右数预测为类别1。注意，回归决策树预测结果是标签的概率值，故需先转化为对应的概率再比较预测标签与真实标签的值，也因此不能使用score()函数作为模型精度。左树采用下标为1的特征进行划分，右树采用下表为0的特征进行划分，但二者产生的基尼系数下降值是一样的，均为。
关于决策树集成的一份介绍
2301_79096986的博客
09-16 1503
在这片文章中我将介绍决策树集成有关的东西，会主要分为两部分去讲，一部分是随机森林，另一部分是梯度提升决策树。
【AI大模型】Kimi API大模型接口实现
qq_25888559的博客
09-15 1537
Kimi智能助手在效率（免费榜）排名从2024年1月14日的第436名提升至3月19日的第11名。而尚未上线的GPT-4.5 Turbo上下文窗口指定为25.6万个token，能同时处理约20万个单词，Kimi升级后，长文本能力为其10倍。在2023年10月初次亮相时，该模型的处理能力还仅有约20万汉字。2024年3月18日，月之暗面宣布Kimi智能助手启动200万字无损上下文内测。
使用c#制作一个小型桌面程序
qq_44691564的博客
09-14 2462
创建.NET Framework新项目，将之前生成的dll放在Demo文件夹的bin ->debug或是 release中（看你自己用的什么模式），创建完成后 系统会自动生成一些文件，其中 pch.cpp 先不要修改，pch.h中先导入自己需要用到的库，下面是我的代码。布局完了之后会自动生成Form1.Designer.cs 的窗口设计代码，点击控件按F4 还可以修改他们的属性。完成之后点击生成 就可以在bin中出现的你的.exe文件咯，是不是很简单呀~[狗头]我们还需要一个入口主程序。
opencv学习：calcHist 函数绘制图像直方图及代码实现
mohanyelong的博客
09-13 1689
opencv学习：calcHist 函数绘制图像直方图及代码实现
Djourney新手入门基础，AI摄影+AI设计+AI绘画-AIGC作图
DAMOXINGHAITAI的博客
09-14 1241
（全套教程文末领取哈）从大模型系统设计入手，讲解大模型的主要方法；在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；以SD多模态大模型为主，搭建了文生图小程序案例；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
常见本地大模型个人知识库工具部署、微调及对比选型
09-14 955
由于作者的眼界、精力和能力也有限，并且确实也不是专业的AI研究员，仅仅是一位兴趣使然的爱好者，这里列出的几款也单纯只是作者平常关注到的，所以可能也不全，请各位见谅！文章从起笔写到这里已经过了三天了，这三天也基本把上文提到的大模型侧工具全部体验了一遍，下面说一下主要结论吧。从功能丰富度和性能优化的角度综合评估，LM Studio明显更胜一筹。从工具本身使用及模型部署效率来看，Ollama的上手速度会更快，使用会更便捷，效率也会更高。从企业级稳定性和高可用。
介绍一下常用的激活函数？
最新发布
GamBleout的博客
09-19 995
死神经元：当神经网络中的某些神经元在训练过程中始终不被激活，即其输出值始终接近于零，这些神经元就被称为“死神经元”。与Sigmoid函数类似，也存在梯度消失问题，但相对于Sigmoid函数，其输出范围更大，有利于梯度的传播。Leaky ReLU是ReLU的一个变体，在输入为负时给予一个小的非零斜率，避免了“死神经元”问题。在正区间内解决了梯度消失问题，但在负区间内梯度为0，可能导致“死神经元”问题。将一组数值转换为概率分布，即所有输出的和为1，且每个输出都在(0,1)之间。当输入为负时，输出为0。
机器学习 --- 决策树
10-11
决策树是一种用于分类和回归任务的机器学习算法。它是一个树形结构，其中每个内部节点表示一个特征，每个分支代表该特征的一个可能取值，而每个叶子节点代表一个类别或预测结果。 决策树的构建过程基于分割数据集的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

啥都生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值