【介绍】有哪些决策树

目录

0. 前言-决策树介绍

一、决策树有哪些

二、各种决策树详细解释

2.1 ID3决策树

2.2 C4.5决策树

2.3 C5.0决策树

2.4 CART分类树

2.5 CART回归树

---

 本文部分图文借鉴自《老饼讲解-机器学习》

0. 前言-决策树介绍

决策树（Decision Tree）是一种常见的机器学习方法，它基于树形结构来进行决策。

决策树在分类问题中特别有效，也可以用于回归问题。它通过将数据集划分成若干个子集，从而实现对整个数据集的预测。决策树的每个内部节点表示一个属性上的测试，每个分支代表一个测试输出，每个叶节点代表一种类别。决策树是一种直观运用概率分析的一种图解法，其目的是为了产生一棵泛化能力强，即处理未见示例能力强的决策树。

一、决策树有哪些

那么，但我们经常到到CART决策树、ID3决策树等等，对于刚接触决策树的同学是非常困惑的，下面我们详细讲讲决策树有哪些种类。

主要有以下5种常见决策树

1.ID3决策树

2. C4.5决策树，

3.C5.0决策树

4.CART分类树

5.CART回归树

但从技术角度进行分类，它们又可以分为两条支线

1.CART： classification and regression tree，分类与回归树
                        即CART自身包括了分类树与回归树
2.ID3系列： ID3算法，C4.5算法，C5.0算法         

目前matlab和python软件都只实现了CART决策树，如果要实现ID3，C4.