机器学习之决策树

最新推荐文章于 2024-10-01 10:27:22 发布

Annaaphq

最新推荐文章于 2024-10-01 10:27:22 发布

阅读量186

点赞数

文章标签：机器学习决策树算法

本文链接：https://blog.csdn.net/Annaaphq/article/details/126300158

版权

本文介绍了决策树在机器学习中的应用，通过一个生动的例子展示了决策树如何进行决策。接着阐述了算法原理，包括如何选择特征作为决策条件，以及信息增熵、信息增益在决策树构建中的作用。此外，讨论了决策树的优缺点，如直观易解释、预测速度快，但易过拟合。文章还提到了不同版本的决策树，如ID3、C4.5和CART，并介绍了剪枝方法以防止过拟合。最后，文章简要介绍了信息增益率和基尼系数作为改进的信息度量方法。

摘要由CSDN通过智能技术生成

机器学习之决策树

今天是分类算法的第二课时，我们今天要介绍的是一个应用非常广泛的模型——决策树。首先我依然会从一个例子出发，看看女神是怎样决策要不要约会的；然后分析它的算法原理、思路形成的过程；由于决策树非常有价值，还衍生出了很多高级版本，在扩展内容里我也进行了简要的介绍。希望通过本课时的学习，你可以掌握决策树的思路以及使用方法，并能够尝试用它来解决遇到的问题

在这里插入图片描述

一共例子

我们都知道女神身后有很多的追求者，她肯定不会和每个人都约会，因为时间不够，必须要好好管理自己的时间才行。于是女神给每个想要约会的人发信息说：“把你的简历发过来吧。”

简历收上来后，第一眼先看照片，颜值打几分？然后再看年收入，长得帅的就可以少挣点，毕竟 “帅也可以当饭吃啊”。不帅的呢？那收入必须要求高一点，“颜值不够，薪资来凑”。薪资还差点的，再看看学历是不是研究生 / 985/211，看看身高有没有 180…… 所以你就可以对号入座了，发现自己哪条都不符合，好了，去好好“搬砖” 吧。

由此可知，女神的筛选条件有颜值、身高、收入、学历等，每一项都会对最后是否约会的结果产生影响，即女神通过对这几种条件的判断，决定是否要安排约会。

上面这个过程就是决策树的思路，下面我们来看一下决策树的具体原理。