目录
本文部分图文借鉴自《老饼讲解-机器学习》
0. 前言-决策树介绍
决策树(Decision Tree)是一种常见的机器学习方法,它基于树形结构来进行决策。
决策树在分类问题中特别有效,也可以用于回归问题。它通过将数据集划分成若干个子集,从而实现对整个数据集的预测。决策树的每个内部节点表示一个属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。决策树是一种直观运用概率分析的一种图解法,其目的是为了产生一棵泛化能力强,即处理未见示例能力强的决策树。
一、决策树有哪些
那么,但我们经常到到CART决策树、ID3决策树等等,对于刚接触决策树的同学是非常困惑的,下面我们详细讲讲决策树有哪些种类。
主要有以下5种常见决策树
1.ID3决策树
2. C4.5决策树,
3.C5.0决策树
4.CART分类树
5.CART回归树
但从技术角度进行分类,它们又可以分为两条支线
1.CART: classification and regression tree,分类与回归树
即CART自身包括了分类树与回归树
2.ID3系列: ID3算法,C4.5算法,C5.0算法
目前matlab和python软件都只实现了CART决策树,如果要实现ID3,C4.