作业1:第二章课后题

习题 2-1 分析为什么平方损失函数不适用于分类问题 , 交叉熵损失函数不适用于回归问题.

平方损失函数经常用在预测标签y为实数值的任务中,定义为:

\zeta \left ( y,f\left ( x;\Theta \right ) \right )=\frac{1}{2}\left ( y-f\left ( x;\Theta \right ) \right )^2

分类问题的概念为:在二分类问题中y={+1,-1},在C分类问题在y={1,2,3,···,C},可以看出分类问题的结果为离散值。

分类问题的标签是没有连续的概念的,每个标签之间的距离也没有实际意义,所有预测值和标签两个向量之间的平方差不能反映分类问题的优化程度。


交叉熵只对正确分类的结果看重。例如:在一个三分类模型中,模型的输出结果为(a,b,c),而真实的输出结果为(1,0,0),交叉熵对应的损失函数如下:

c=(-1)*log(a)-0*log(b)+0*log(c)=-log(a)

可以快速交叉熵的损失函数只和分类正确的预测结果有关系,而对于回归问题来说不仅要让正确的分类尽量变大,还得让错误分类变得平均。所以,回归问题熵使用交叉上并不合适。


习题 2-12 对于一个三分类问题 , 数据集的真实标签和模型的预测标签如下 :

分别计算模型的精确率、召回率、F1值以及它们的宏平均和微平均.  

精确率:

precision=    \frac{TP}{TP+FP}

P1=   \frac{TP1}{TP1+FP1}  =\frac{1}{2}

P2=  \frac{TP2}{TP2+FP2}  =\frac{1}{2}

P3=  \frac{TP3}{TP3+FP3}  =\frac{2}{3}

召回率:

recall=\frac{TP}{TP+FN}

R1=\frac{TP1}{TP1+FN1}=\frac{1}{2}

R2=\frac{TP2}{TP2+FN2}=\frac{2}{3}

R3=\frac{TP3}{TP3+FN3}=\frac{1}2{}

F1值:

F1=\frac{2\cdot P1\cdot R1}{P1+R1l}=\frac{1}{2}

F2=\frac{2\cdot P2\cdot R2}{P2+R2}=\frac{4}{7}

F3=\frac{2\cdot P3\cdot R3}{P3+R3}=\frac{4}{7}

宏平均:

宏查准率:

Pmacro=\frac{1}{n} \sum_{i=1}^{n}Pi=\frac{5}{9}

宏查全率:

Rmacro=\frac{1}{n} \sum_{i=1}^{n}Ri=\frac{5}{9}

宏F1:

F1macro=\frac{2\cdot Pmacro\cdot Rmacro }{Pmacro+Rmacro}=\frac{5}{9}

微平均:

 微查准率:

Pmicro=\tfrac{\sum_{i=1}^{n}TPi}{\sum_{i=1}^{n}TPi+\sum_{i=1}^{n}FPi}=\frac{5}{9}

微查全率:

Rmicro=\frac{\sum_{i=1}^{n}TPi}{\sum_{i=1}^{n}TPi+\sum_{i=1}^{n}FNi}==\frac{5}{9}

微F1:

F1micro=\frac{2\cdot Pmicro\cdot Rmicro}{Pmicro+Rmicro}=\frac{5}{9}

总结:掌握了平方损失函数不适用于分类问题 , 交叉熵损失函数不适用于回归问题的原因,

学会了计算模型的精确率、召回率、F1值以及它们的宏平均和微平均的公式及技巧。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值