为什么平方损失函数不适用于分类问题？

损失函数的定义

损失函数是一个非负实数，用来量化模型预测和真实标签之间的差异。我们一般会用损失函数来进行参数的优化，当构建了不连续离散导数为0的函数时，这对模型不能很好地评估。

平方损失函数（Quadratic Loss Function)

平方损失函数经常用在预测标签$y$为实数值的任务中，定义为：$$\mathcal{L}\left(y,f\left(\mathbf{x};\theta \right)\right)=\frac{1}{2}{\left(y-f\left(\mathbf{x};\theta \right)\right)}^2$$
平方损失函数一般不适用于分类问题。

平方损失函数为啥不适用于分类问题？？

首先我们要明确分类问题的概念：在二分类问题中 y = { + 1 , − 1 } y=\left\{ +1,-1 \right\} y={+1,−1}在$C$分类问题中 y = { 1 , 2 , 3 ， ⋅ ⋅ ⋅ ， C } y=\left\{ 1,2,3，···，C \right\} y={1,2,3，⋅⋅⋅，C}。可以看出分类问题输出的结果为离散的值。
这里我在邱锡鹏老师的问题讨论区里
看到一则评论为：分类问题中的标签，是没有连续的概念的。每个标签之间的距离也是没有实际意义的，所以预测值和标签两个向量之间的平方差这个值不能反应分类这个问题的优化程度。比如分类 1,2,3, 真实分类是1, 而被分类到2和3错误程度应该是一样的,但是明显当我们预测到2的时候是损失函数的值为1/2而预测到3的时候损失函数为2，这里再相同的结果下却给出了不同的值，这对我们优化参数产生了误导。
至于分类问题我们一般采取交叉熵损失函数（Cross-Entropy Loss Function）来进行评估。