决策树模型(1)

本文介绍了决策树作为分类方法的基本原理和应用。通过混淆矩阵评估模型性能,使用Hunt算法建立决策树,并探讨了过拟合问题。内容涵盖了属性测试条件、选择最佳划分的度量,以及过分拟合的示例分析。
摘要由CSDN通过智能技术生成

分类

通过已有的训练集,输入相应的模型中训练拟合,在通过检验集进行进行验证,从而预测未知样本类;
常用的分类法有决策树分类,基于规则的分类,神经网络,支持向量机, 朴素贝叶斯分类法,通常每一种分类方法都对应这一种模型算法。决策树模型就是其中的一种学习算法

混淆矩阵

通过将计数存放在混淆矩阵中,根据正确和错误预测来评估模型的性能
| |预测的类 |
| |:类=1 |类=0 |
|实际的类|类=1|:f _11 |: f _10|
| |:类=0|:f _01 |:f _00 |
通过性能度量正确率、错误率来比较不同模型之间的性能
正确率= (f_11 + f _00) / (f _11+f _10+f _01+ f _00)
错误率= (f_01 + f _10) / (f _11+f _10+f _01+ f _00)

决策树原理

import 根节点
if 条件 
   叶节点
  elseif 条件
   叶节点
    elseif
    ...
    end

决策树

建立决策树

<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值