NNDL作业二

问题一:分析为什么平方损失函数不适用于分类问题,交叉熵损失函数不适用于回归问题。

平方损失函数的定义为

                           L(y,f(x;\Theta ))=1/2(y-f(x;\Theta ))^{2}

对于特定的分类问题,平方差的损失有上限但交叉熵则可以用整个非负域来反映优化程度的程度。

线性回归中求解最优参数中使用的最大似然估计和最小二乘法的解相同,而最大似然估计是对于高斯分布而言,因求解参数效果相同,所以使用平方损失函数就类似假设了高斯先验。由于高斯分布不适合分类问题所以平方损失函数也不适用。

交叉熵函数定义

                      H(p,q)=-\sum_{x}p(x)log(q(x))

交叉熵函数结果只和正确分类的结果有关;

回归问题关注的是预测结果和真实结果之间的差距,而交叉熵函数只关注于真确的分类结果忽略错误的分类结果。回归问题中需要让预测的函数满足所有的样本,这样就要包含错误的样本,所以交叉熵不适用于回归任务。

总结:交叉熵损失函数适用于分类问题 (离散),不适用于回归问题 (连续)。

问题二:对于一个三分类问题,数据集的诊室标签和模型的预测标签如下:

分别计算模型的精确率、召回率、F1值以及它们的宏平均和微平均。

精确率(Precision):是衡量模型预测精度的度量指标。在二元分类问题中定义为:

Pc=\frac{TPc}{TPc+FPc}

TPc:真实标签为c,预测也为c              FNc:真实为c,预测不为c

FPC:真实标签不为c,预测标签为c    TNc:真实不为c,预测也不为c

P1=\frac{TP1}{TP1+FP1}=\frac{1}{1+1}=\frac{1}{2}

P2=\frac{TP2}{TP2+FP2}=\frac{2}{2+1}=\frac{2}{3}

P3=\frac{TP3}{TP3+FP3}=\frac{2}{2+1}=\frac{2}{3}

召回率(Recall):也被称为查全率,是信息检索和统计学分类领域中的一个重要度量值。它表示检索出的相关文档数与文档库中所有的相关文档数的比率,用于衡量检索系统的查全率。

Recall=\frac{TP}{TP+FN}

R1=\frac{TP1}{TP1+FN1}=\frac{1}{1+1}=\frac{1}{2}

R2=\frac{TP2}{TP2+FN2}=\frac{2}{2+1}=\frac{2}{3}

R3=\frac{TP3}{TP3+FN3}=\frac{2}{2+2}=\tfrac{1}{2}

F值(F Measure):是一个综合指标,为精确率和召回率的调和平均:

Fc=\frac{2*Pc*Rc}{Pc+Rc}

F1=\frac{2*P1*R1}{P1+R1}=\frac{2*\frac{1}{2}*\frac{1}{2}}{\frac{1}{2}+\frac{1}{2}}=\frac{1}{2}

F2=\frac{2*P2*R2}{P2+R2}=\frac{2*\frac{1}{2}*\frac{2}{3}}{\frac{1}{2}+\frac{2}{3}}=\tfrac{4}{7}

F3=\frac{2*P3*R3}{P3+R3}=\frac{2*\frac{2}{3}*\frac{1}{2}}{\frac{2}{3}+\frac{1}{2}}=\frac{4}{7}

宏平均:每一类的性能指标的算数平均值

Pmacro=\frac{1}{n}\sum_{i=1}^{n}Pi=\frac{1}{3}*(\frac{1}{2}+\frac{1}{2}+\frac{2}{3})=\frac{5}{9}

Rmacro=\frac{1}{n}\sum_{i=1}^{n}Ri=\frac{1}{3}*(\frac{1}{2}+\frac{2}{3}+\frac{1}{2})=\frac{5}{9}

F1macro=\frac{2*Pmacro*Rmacro}{Pmacro+Rmacro}=\frac{2*\frac{5}{9}*\frac{5}{9}}{\frac{5}{9}+\frac{5}{9}}=\frac{5}{9}

微平均:每一个样本的性能指标的算数平均值

Pmacro=\frac{\sum_{i=1}^{n}TPi}{\sum_{i=1}^{n}TPi+\sum_{i=1}^{n}FPi}=\frac{1+2+3}{(1+2+3)+(1+2+1)}=\frac{5}{9}

Rmacro=\frac{\sum_{i=1}^{n}TPi}{\sum_{i=1}^{n}TPi+\sum_{i=1}^{n}FNi}=\frac{1+2+2}{(1+2+2)+(1+1+2)}=\frac{5}{9}

F1macro=\frac{2*Pmacro*Rmacro}{Pmacro+Rmacro}=\frac{2*\frac{5}{9}*\frac{5}{9}}{\frac{5}{9}+\frac{5}{9}}=\frac{5}{9}

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值