Logistic 回归与 Softmax 回归在解决二分类问题的区别
在学习邱锡鹏老师的《神经网络与深度学习》的Softmax回归时,他在最后提出了此问题。
久经思考后,没想出来有什么区别。后来在看到以下这篇文章时,才理解了这个问题。
https://blog.csdn.net/huangfei711/article/details/79801968
此处不在赘述Logistic 回归与 Softmax 回归的相关知识点,别人写的比我好。
总的来说,关于Logistic 回归与 Softmax 回归在解决二分类问题的区别,其实是二者在解决实际问题上不同应用场景所具备的条件而导致的区别,上面那篇文章中举了个例子,非常形象生动,就是以下的例子:
使用 SoftMax 回归或者是多个 Logistic 回归二分类解决多分类问题,取决于类别之间是否互斥,例如,如果有四个类别的音乐,分别为:古典音乐、乡村音乐、摇滚乐和爵士乐,那么可以假设每个训练样本只会被打上一个标签(即:一首歌只能属于这四种音乐类型的其中一种),此时你应该使用类别数 k = 4 的 SoftMax 回归。(如果在你的数据集中,有的歌曲不属于以上四类的其中任何一类,那么你可以添加一个“其他类”,并将类别数 k 设为5)。如果四个类