ID3,C4.5和CART三种决策树的区别

最新推荐文章于 2024-09-28 11:51:57 发布

apbckk1506

最新推荐文章于 2024-09-28 11:51:57 发布

阅读量1k

点赞数 1

文章标签：数据结构与算法

原文链接：http://www.cnblogs.com/pacino12134/p/11221774.html

版权

ID3决策树优先选择信息增益大的属性来对样本进行划分,但是这样的分裂节点方法有一个很大的缺点,当一个属性可取值数目较多时,可能在这个属性对应值下的样本只有一个或者很少个,此时它的信息增益将很高,ID3会认为这个属性很适合划分,但实际情况下叫多属性的取值会使模型的泛化能力较差,所以C4.5不采用信息增益作为划分依据,而是采用信息增益率作为划分依据。但是仍不能完全解决以上问题,而是有所改善,这个时候引入了CART树,它使用gini系数作为节点的分裂依据。

转载于:https://www.cnblogs.com/pacino12134/p/11221774.html