机器学习强基计划2-2：一文详解ID3、C4.5、CART决策树算法+ Python实现

0 写在前面

机器学习强基计划聚焦深度和广度，加深对机器学习模型的理解与应用。“深”在详细推导算法模型背后的数学原理；“广”在分析多个机器学习模型：决策树、支持向量机、贝叶斯与马尔科夫决策、强化学习等。

🚀详情：机器学习强基计划(附几十种经典模型源码合集)

1 什么是决策树？

决策树(decision tree, DT)模拟人类在面临决策问题时的系列判断处理机制，基于树结构对属性分而治之(divide-and-conquer)学习。

上面的说法比较抽象，我们举个例子

例1：相亲问题

在一个风和日丽的上午，你爸妈打算给你介绍一个相亲对象。在你决定去不去之前，你可能会做如图所示的头脑风暴。在这个例子中，你考虑了年龄、身高和长相三个属性，其中年龄是你认为最重要的属性——一个大于30岁的人你直接决定不见面，只有小于30岁、高个子、长相漂亮的人才能打动你。