逻辑回归算法梳理

本文深入探讨了逻辑回归算法,包括它与线性回归的区别、逻辑回归的原理、Sigmoid函数的作用、损失函数的推导、正则化与模型评估指标、优缺点,以及在样本不均衡问题上的解决方案。通过对sklearn库中LogisticRegression参数的介绍,为实际应用提供指导。
摘要由CSDN通过智能技术生成

【任务2 - 逻辑回归算法梳理】时长:2天
1、逻辑回归与线性回归的联系与区别
2、 逻辑回归的原理
3、逻辑回归损失函数推导及优化
4、 正则化与模型评估指标
5、逻辑回归的优缺点
6、样本不均衡问题解决办法
7. sklearn参数
参加了Datawhale的活动,虽然在机器学习有一定的实践和经验积累,不过总是有自己的漏洞,所以参加基础的机器学习任务。博客尽力的水到渠成,不过很多内容来自之前自己的总结截图,显得粗糙,不过还是用心的,并不是堆砌。
1、逻辑回归与线性回归的联系与区别
逻辑回归是线性模型么?不是的,逻辑回归是广义线性模型。逻辑回归和线性回归不同,线性回归模型的特点: 单变量情况下是一条二维直线,这条直线x取值可以在坐标轴上延伸,同时y可以上下无限延伸。但是逻辑回归的x和y就没有这个特点。不过这个是表面的,根本原因是线性模型有一个假设,对误差ε,假设互相独立,且服从正态分布,这个逻辑回归y是0/1变量,其误差显然是不符合的线性模型假设的。所以,逻辑回归不属于线性模型。

2、 逻辑回归的原理
算法名虽然叫做逻辑回归,但是该算法是分类算法,逻辑回归用了和回归类似的方法来解决分类问题。
逻辑回归是因变量为虚拟变量的问题,
分类问题举例:
邮件:垃圾邮件/非垃圾邮件?
在线交易:是否欺诈(是/否)?
肿瘤:恶性/良性?
y − 0 , 1 y-{ {0,1}} y0,1,对于这样的模型,对比连续变量的散点图,一个虚拟变量产生的散点图,如图,并不是一些呈现云状的散点图。它呈现两个平行图样的散点。
线性回归的方法已经无法对 y y

逻辑回归是一种分类算法,它的主要思想是根据现有数据对分类边界线(Decision Boundary)建立回归公式,以此进行分类。 与线性回归相似,逻辑回归通过一组预测器变量来预测特征与输出结果。但逻辑回归更适用于二分类问题,输出结果为0或1。通过方程系数,我们可以估计模型中自变量的比率。这使得逻辑回归可以用于确定某个事件的可能性。 逻辑回归和多重线性回归的区别在于因变量的不同。多重线性回归因变量只有一个,而逻辑回归因变量可以是二分类,也可以是多分类。广义线性模型家族中的模型基本形式相似,主要区别在于因变量的不同。例如,如果因变量是连续的,那么就是多重线性回归;如果因变量是二项分布,那就是逻辑回归;如果因变量是泊松分布,那就是泊松回归。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [逻辑回归算法梳理](https://blog.csdn.net/pandawang830/article/details/88867221)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [逻辑回归算法](https://blog.csdn.net/qq_39691463/article/details/119257621)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值