![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
决策树
文章平均质量分 95
向、向向日葵
这个作者很懒,什么都没留下…
展开
-
决策树(上)
决策树前言一、简单生成决策树二、节点划分1.信息增益2.增益率3.基尼指数总结参考前言决策树是一类常见的机器学习的方法,以二分类任务为例,我们希望从已知的训练集中训练出一个模型,使得该模型可以对新出现的实例进行分类;那么决策树的决策体现在哪里呢?首先考虑我们人在面对一些问题的时候,就会思考这样的问题,“这个问题是属于哪一方面的问题?”若属于A方面,则解决方法是一条路线,属于B则是另外一条路线,这是我们人在面临问题的时候很自然的一种处理机制,而决策树恰恰是根据人的思维习惯诞生的,在处理分类的问题的时候原创 2021-04-10 11:23:07 · 188 阅读 · 0 评论 -
决策树(下)
决策树一、剪枝处理1.预剪枝2.后剪枝二、连续值与缺失值的处理1.连续值的处理2.缺失值的处理总结参考一、剪枝处理在机器学习中,经常会利用训练集去训练模型来应对未知的实例,但是在模型的训练过程中每个人都会遇到“过拟合”的问题,那么什么是过拟合?由于模型是在训练集上不断地训练生成的,可能会出现这个模型把训练集学习的太好了,在识别新出现的实例时,会因为对训练集中某些属性的过度学习导致对实例的判断失误,从而降低了模型的泛化能力;而对决策树进行剪枝处理,可以很好的解决这种“过拟合”的现象。1.预剪枝预剪原创 2021-04-10 11:23:47 · 179 阅读 · 0 评论