NNDL 作业1：第二章课后题

习题 2-1 分析为什么平方损失函数不适用于分类问题 , 交叉熵损失函数不适用于回归问题.

1、平方损失函数

平方损失函数为直接测量机器学习模型的输出与实际结果之间的距离。如果定义机器学习模型的输出为，实际的结果为​，那么平方损失函数可以被定义为：

不适用于分类问题的原因：

分类问题的结果为离散值，分类问题的标签也不是连续的，每个标签之间的距离也没有实际意义，所以预测值和标签两个向量之间的平方差不能反映分类问题的优化程度。分类问题我们一般采取交叉熵损失函数来进行评估。

2、交叉熵损失函数

交叉熵（Cross Entry）是用来评估当前训练得到的概率分布与真实分布的差异情况，也就是交叉熵的值越小，两个概率分布就越接近。减少交叉熵损失就是在提高模型的预测准确率。其离散函数形式

参数解释：是真实分布的概率，是模型通过数据计算出来的概率估计。

不适用于回归问题的原因：

平方损失函数对每一个输出结果都十分看重，而交叉熵损失函数只对正确分类的结果看重。交叉熵损失函数只和分类正确的预测结果有关。而平方损失函数还和错误的分类有关，该损失函数除了让正确分类尽量变大，还会让错误分类都变得更加平均，但实际中后面的这个调整使没必要的。但是对于回归问题这样的考虑就显得重要了，因而回归问题上使用交叉熵并不适合。

参考：平方损失函数与交叉熵损失函数_m_buddy的博客-CSDN博客_平方损失函数
习题 2-12 对于一个三分类问题 ， 数据集的真实标签和模型的预测标签如下 ：

分别计算模型的精确率、召回率、F1值以及它们的宏平均和微平均．  

混淆矩阵：

		预测类别
		真	假
真实类别	真	TP	FN
	假	FP	TN

精确率：

召回率：

F1值：

宏平均：

微平均：

小结&收获：

了解学习了平方损失函数不适用于分类问题 , 交叉熵损失函数不适用于回归问题的原因；

学会了如何计算模型的精确率、召回率、F1值以及它们的宏平均和微平均；

练习了如何使用公式编辑器，正确书写公式。