数据挖掘十大算法(一):决策树分类C4.5算法

本文介绍了决策树分类的基本思想,详细阐述了无条件熵、条件熵、信息增益和信息增益比的概念,并通过实例解释了ID3算法和C4.5算法的选择策略。C4.5算法通过信息增益比避免了偏好定义域大的属性,同时处理了连续属性和属性值缺失的情况。
摘要由CSDN通过智能技术生成

一、决策树分类的思想

如下图所示,为一个待训练的数据集/训练集,表示一个人具备年龄、收入、是否学生、信誉这4个属性,待训练的目标是这个人是否购买计算机。其中年龄、收入、是否学生、信誉被称作描述属性,是否购买计算机称作类别属性,即分为什么类别。


为了理解什么叫决策树,我们直接跳到结果(利用上述数据集,得到的决策树),决策树如下图:


这个决策树的含义,类似于一个程序判断框图,输入一个人的属性值4元组:(年龄,收入,是否学生,信誉),就可以判断这个人是否购买电脑。例如:

(>40,高,否,中)-------先根据年龄,进入>40那棵子树,然后判断信誉:“中”,因此预测结果:这个人会购买电脑。

(<=30,中,是,中)-----先根据年龄,既进入<=

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值