深度学习笔记:详解MSE Loss均方误差损失函数

欢迎Star我的Machine Learning Blog:https://github.com/purepisces/Wenqing-Machine_Learning_Blog。

均方误差损失

均方误差（MSE，Mean Squared Error）是回归问题中评估预测误差的一种广泛使用的指标。在回归中，目标是预测连续值，例如根据房屋的特征（如面积、位置、卧室数量等）估计房屋的价格。

MSE 损失前向方程

计算从计算模型预测（$A$）与实际真值（$Y$）之间的平方误差（$SE$）开始：

$$SE(A,Y)=(A-Y)\odot (A-Y)$$

接下来，我们确定平方误差之和（$SSE$）。这里，${\iota }_N$ 和 ${\iota }_C$ 分别表示大小为 $N$ 和 $C$ 的、填充有 1 的列向量：

$$SSE(A,Y)={\iota }_N^T\cdot SE(A,Y)\cdot {\iota }_C$$

这个操作将 $SE(A,Y)$ 矩阵中的所有元素求和，该矩阵的维度为 $N\times C$。通过 ${\iota }_N^T$ 的乘法在行间聚合错误，随后通过 ${\iota }_C$ 的乘法将这些在列间求和，产生一个单一标量的总误差。

然后计算每个组件的均方误差（$MSE$）损失：

$$MSELoss(A,Y)=\frac{SSE(A,Y)}{N\cdot C}$$

MSE 损失反向方程

在反向传播过程中，需要计算 MSE 损失相对于模型输出（$A$）的梯度，以更新模型参数：

$$MSELoss.backward()=2\cdot$$