周志华----机器学习

本文深入探讨了模型评估的重要工具,如统计假设检验中的交叉验证t检验和McNemar检验,以及Friedman检验与Nemenyi后续检验。同时,介绍了线性模型在预测中的作用,包括对数几率回归和线性判别分析。内容涵盖了模型性能比较、泛化误差的分解以及非线性模型与线性模型的关系。
摘要由CSDN通过智能技术生成

第2章----模型评估与选择

很多学习器是为测试样本产生一个实值或概率预测,然后将这个预测值与一个分类阈值进行比较,若大于阈值分为正类,否则为反类。

1、统计假设检验:学习器性能比较的重要依据

        假设检验:对学习器泛化错误率的某种判断。现实生活中只能获取测试错误率。

        

         交叉验证t检验:对不同的学习器的性能进行比较

        McNemar检验

        Friedman检验与Nemenyi后续检验

2、人们除了通过实验估计其泛化性能,更希望知道为什么有这样的性能。

泛化误差可分为偏差、方差和噪声之和

第3章--线性模型

f(x)=w^Tx+b


f(x)=w_{1}x_{2}+w_{2}x_{2}+...+w_{d}x_{d}+b

许多非线性模型可在线性模型的基础上通过引入层级结构或高维映射而得,w直观表达了个属性在预测中的重要性。

 w=(\sum y_{i}(x_{i}-\bar{x}))/\sum x^2_{i}-1/m(\sum x^2_{i})^2

 b=1/m\sum (y_{i}-wx_{i})

其中\bar x=1/m\sum x_{i} 为均值   

对数几率回归

 

线性判别分析LDA(难   )

 多分类学习

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值