本文深入探讨了逻辑回归与线性回归的联系与区别，详细阐述了逻辑回归的原理，包括损失函数的推导和优化方法如共轭梯度法。此外，讨论了正则化在模型中的作用以及如何应对样本不均衡问题，如过采样、欠采样和阈值移动。最后，介绍了sklearn库中逻辑回归模型的参数设置及其意义。
1.逻辑回归与线性回归的区别和联系
- 联系：逻辑回归与线性回归都属于广义线性回归模型
- 区别：逻辑回归即可以看做回归算法，也可以看做是分类算法，通常解决分类问题，但只可以解决二分类问题；线性回归Y值是连续变量，值域为[-∞, +∞]，逻辑回归p值代表概率，值域为[0,1]，Y表示分类变量；损失函数表示不同。
2.逻辑回归的原理
其原理是将样本的特征和样本发生的概率联系起来。
3.逻辑回归损失函数推导及优化
优化方法：
- 共轭梯度法
- BFGS (变尺度法)
- L-BFGS (限制变尺 度法)
4. 正则化与模型评估指标
正则化：
模型评估指标：在数据极度偏斜的情况下，分类准确度存在问题，比如预测癌症，因此只用分类准确度是远远不够的。引入以下指标，
最低0.47元/天 解锁文章
7993
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
