今天来了解和学习第二个机器学习模型:决策树
决策树和很多其他的机器学习算法不同,其他的机器学习算法,有的一般只用于分类(Classification)预测,有的一般只用于回归(Regression)分析。而决策树,是既可以做分类预测,也可以做回归分析。
关于回归和分类的区别,链接传送门:https://www.zhihu.com/question/21329754
关于决策树的发展历史,链接传送门:https://www.jiqizhixin.com/graph/technologies/80fbc146-bc42-4585-93e3-21c2dd5ca63f
(后面找时间好好看一下每一篇文章的核心思想和推导过程,从信息论开始,后面有ID3、CHAID、CART、QUEST 和 C4.5,做个专栏出来。)
总的来说,决策树主要就是解决两种类型的任务:分类预测和回归分析。
今天就关注分类预测任务。
决策树,解决分类问题。
二分类问题:label的数学表达是0 or 1
多分类问题:label的数学表达式0 or 1 or 2, …
这里介绍决策树的基本构建过程:
前言:获得数据集,这里借用了b站一个小姐姐的讲解所用到的数据集:https://www.bilibili.com/video/BV1T7411b7DG?from=search&seid=8503332607587607392
我已经列出来了: