http://thomaslau.xyz/2017/08/04/2017-08-04-derivative-of-logistic-sigmoid-function/
分享一下在学习逻辑回归时候的困惑,以便需要者节约时间。
在看西瓜书的逻辑回归这一章时,对作者引入了sigmoid函数觉得突兀,于是搜索到了知乎上的提问,为什么 LR 模型要使用 sigmoid 函数 里获赞最高的答案。
但正如马化腾先生说的,这么说,也对也不对。
看完后,上面其他回答各种理由,而匿名回答是最大熵的,并不是原因,甚至,这可以认为是一个推论或公理。试想再问为什么要熵最大化?
换言之,一个分析问题是从前一步的因,一个分析问题是从最初的因。这对数学专业可能会直接跳过这么问。
那么让我们将问题拆开来看:
1, 逻辑回归为什么要使用sigmoid函数.
2, LR模型的意义,即为什么有了线性回归(linear regression)还需要逻辑回归(logistic regression)
问题一
很好解释:其实没有什么原因。
看上面高赞答案解释一堆,或者下面解释sigmoid函数好用,好求导。其实都不是原因。
因为逻辑回归对应Logit Function,即逻辑回归就是sigmoid函数的应用,
一个对象的两个描述而已,像原文这么问就像是在问为什