本文深入探讨了Logistic Regression，从线性回归到广义线性回归的扩展，介绍了Logistic Regression作为概率型非线性回归模型的本质。Logistic Regression的核心在于sigmoid函数，用于将连续值映射到0和1，解决二分类问题。在sklearn中，重点讨论了正则化、优化方式、类型权重和样本权重的选择，特别是如何处理样本不平衡问题。最后提到了softmax回归在多分类问题中的应用。
一、线性回归到广义线性回归
线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。线性模型通过联合其他函数扩展成为，建立响应变量的数学期望值与线性组合的预测变量之间的关系的模型，大大扩展了线性模型可解决问题的范围，这就是广义线性回归。不同的联系函数的选取就产生了不同的广义线性模型。常见的广义线性回归是基于指数分布族的，像高斯分布、伯努利分布，多项式分布、泊松分布（Poisson）、指数分布（Exponential）等等。
其中当随机变量
服从高斯分布、伯努利分布时，就分别得到了最小二乘回归和Logistic回归。故Logistic回归就是一种广义线性回归的一种。
二、Logistic Regression的本质与核心
Logistic回归为概率型非线性回归模型，是研究二分类观察结果
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
最低0.47元/天 解锁文章
1137
