一篇博客：分类模型的 Loss 为什么使用 cross entropy 而不是 classification error 或 squared error...

https://zhuanlan.zhihu.com/p/26268559

分类问题的目标变量是离散的，而回归是连续的数值。

分类问题，都用 onehot + cross entropy

training 过程中，分类问题用 cross entropy，回归问题用 mean squared error。

training 之后，validation / testing 时，使用 classification error，更直观，而且是我们最关注的指标。