【机器学习】逻辑回归为什么叫"回归"，sigmoid又是怎么来的

作者：LogM

本文原载于 https://segmentfault.com/u/logm/articles ，不允许转载~

本文为旧博客文章，公式显示异常，请至 https://segmentfault.com/a/1190000019635861 查看。

1. 逻辑回归模型

逻辑回归模型的公式可以写作：

$$P(Y=1|x) = \frac{1}{1+e^{-wx}}$$

$$P(Y=0|x) = \frac{e^{-wx}}{1+e^{-wx}}$$

2. 逻辑回归的几率

事件的几率（odd）被定义为：

$$odd = \frac{p}{1-p}$$

所以，对数几率（log odds）或称 logit 函数为：

$$logit(p) = log \frac{p}{1-p}$$

带入逻辑回归模型后，有：

$$log \frac{P(Y=1|x)}{1-P(Y=1|x)} = w \cdot x$$

可以发现，对数几率 $logit(p)$ 与 $x$ 是线性关系，所以可以称作"回归"。

3. sigmoid 函数是怎么来的

逻辑回归需要解决的二分类问