对数几率回归（Logistic Regression）总结

对数几率回归logistic regression，虽然名字是回归，但是实际上它是处理分类问题的算法。简单的说回归问题和分类问题如下：

回归问题：预测一个连续的输出。
分类问题：离散输出，比如二分类问题输出0或1.

逻辑回归常用于垃圾邮件分类，天气预测、疾病判断和广告投放。

一、Logistic回归假设函数

对于一个分类问题，希望找到一个预测函数hθ(x)，使得：

只有发生“y=1”（正例）与不发生“y=0”（反例）两种结果（分类问题）

sigmoid函数可以满足这个性质：

其中的θTx是一个线性的函数

所以发生与不发生的概率：