HBU_神经网络与深度学习 作业1 机器学习概述

---

写在前面的一些内容

本次习题来源于 神经网络与深度学习 pdf电子书的第66页和第67页（对应纸质版第51页和第52页）的习题2-1和习题2-12。
水平有限，难免有误，如有错漏之处敬请指正。

习题2-1

分析为什么平方损失函数不适用于分类问题。

答：
①平方损失函数定义如下：
$$\begin{array}{r}\mathcal{L}(y,f(\mathbf{x};\theta ))=\frac{1}{2}(y-f(\mathbf{x};\theta ){)}^2\end{array}$$该函数通过计算预测值和真实值的偏差程度来计算误差，通过在正态分布的数据上进行极大似然估计。但是并非所有分类问题的分布都服从正态分布。
②分类问题可以拿“非黑即白”来形容——即分类问题的标签之间并没有连续的关系，分类分对了就是正确、分错了就是错误。所以说，不能用损失函数的大小来确定你的分类是否正确，因此预测值和标签之间的平方差无法反应分类问题的优化程度，也就不能使用平方损失函数来当作分类问题的损失函数。

习题2-12

对于一个三分类问题，数据集的真实标签和模型的预测标签如下：

真实标签	1	1	2	2	2	3	3	3	3
预测标签	1	2	2	2	3	3	3	1	2

分别计算模型的精确率、召回率、F1值以及它们的宏平均和微平均。

答：①精确率
$$\begin{array}{r}{P}_1=\frac{T{P}_1}{T{P}_1+F{P}_1}=\frac{1}{1+1}=\frac{1}{2}\end{array}$$
$$\begin{array}{r}{P}_2=\frac{T{P}_2}{T{P}_2+F{P}_2}=\frac{2}{2+2}=\frac{1}{2}\end{array}$$
$$\begin{array}{r}{P}_3=\frac{T{P}_3}{T{P}_3+F{P}_3}=\frac{2}{2+1}=\frac{2}{3}\end{array}$$②召回率
$$\begin{array}{r}{R}_1=\frac{T{P}_1}{T{P}_1+F{N}_1}=\frac{1}{1+1}=\frac{1}{2}\end{array}$$
$$\begin{array}{r}{R}_2=\frac{T{P}_2}{T{P}_2+F{N}_2}=\frac{2}{2+1}=\frac{2}{3}\end{array}$$
$$\begin{array}{r}{R}_3=\frac{T{P}_3}{T{P}_3+F{N}_3}=\frac{2}{2+2}=\frac{1}{2}\end{array}$$③F1值$\beta$=1
$$\begin{array}{r}F{1}_1=\frac{(1+{\beta }^2)\times P_1\times R_1}{{\beta }^2\times P_1\times R_1}=\frac{2\ast \frac{1}{2}\ast \frac{1}{2}}{1\ast \frac{1}{2}+\frac{1}{2}}=\frac{1}{2}\end{array}$$
$$\begin{array}{r}F{1}_2=\frac{(1+{\beta }^2)\times P_2\times R_2}{{\beta }^2\times P_2\times R_2}=\frac{2\ast \frac{1}{2}\ast \frac{2}{3}}{1\ast \frac{1}{2}+\frac{2}{3}}=\frac{4}{7}\end{array}$$
$$\begin{array}{r}F{1}_3=\frac{(1+{\beta }^2)\times P_3\times R_3}{{\beta }^2\times P_3\times R_3}=\frac{2\ast \frac{2}{3}\ast \frac{1}{2}}{1\ast \frac{2}{3}+\frac{1}{2}}=\frac{4}{7}\end{array}$$
④宏平均
$$\begin{array}{r}Macr{o}_P=\frac{1}{3}\sum _1^3{P}_i=\frac{5}{9}\end{array}$$
$$\begin{array}{r}Macr{o}_R=\frac{1}{3}\sum _1^3{R}_i=\frac{5}{9}\end{array}$$
$$\begin{array}{r}Macr{o}_F=\frac{2\times Macr{o}_P\times Macr{o}_R}{Macr{o}_P+Macr{o}_R}=\frac{5}{9}\end{array}$$
⑤微平均
$$\begin{array}{r}Micr{o}_P=\frac{\sum T{P}_i}{\sum T{P}_i+\sum F{P}_i}=\frac{5}{8}\end{array}$$
$$\begin{array}{r}Micr{o}_R=\frac{\sum T{P}_i}{\sum T{P}_i+\sum F{N}_i}=\frac{5}{9}\end{array}$$
$$\begin{array}{r}Micr{o}_F=\frac{2\times Micr{o}_P\times Micr{o}_R}{Micr{o}_P+Micr{o}_R}=\frac{10}{17}\end{array}$$

综上。