本文深入探讨了对数几率回归（Logistic Regression），一种处理分类问题的算法，常见于垃圾邮件分类、天气预测等领域。文章介绍了Logistic回归的假设函数，包括sigmoid函数和对数几率，以及其非凸的代价函数与对数似然函数。正则化作为解决过拟合的手段被提及，同时阐述了正则化项在梯度下降算法中的作用。最后，讨论了Logistic回归的优点和缺点，如概率预测、模型解释性以及对多重共线性的敏感性。
对数几率回归logistic regression，虽然名字是回归，但是实际上它是处理分类问题的算法。简单的说回归问题和分类问题如下：
回归问题：预测一个连续的输出。
分类问题：离散输出，比如二分类问题输出0或1.
逻辑回归常用于垃圾邮件分类，天气预测、疾病判断和广告投放。
一、Logistic回归假设函数
对于一个分类问题，希望找到一个预测函数hθ(x)，使得：
只有发生“y=1”（正例）与不发生“y=0”（反例）两种结果（分类问题）
sigmoid函数可以满足这个性质：
其中的θTx是一个线性的函数
所以发生与不发生的概率：
最低0.47元/天 解锁文章
43
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
