浅谈逻辑回归背后的几何意义

本文探讨逻辑回归的几何意义,从线性部分、sigmoid函数和阈值确定三个方面展开。线性部分寻找能区分两类样本的超平面,sigmoid函数将样本点到超平面的距离转化为概率,阈值的设置影响分类决策,ROC曲线和AUC用于评估模型性能。
摘要由CSDN通过智能技术生成

综述:
        逻辑回归,可以说是一个非常经典的算法,使用范围十分广泛,金融、互联网等行业都能看到它的身影,只要涉及到二分类,基本都是首选。也许大家已经对逻辑回归已经十分了解,包括原理、求解等,所以这次主要从几何意义的方向去探讨逻辑回归算法,以加深对其了解。

正文:
        先大致说一下模型的流程,特征x_n表示n个特征,y为0/1的label,特征x_n经过线性映射后得到z,再经过sigmoid函数得到label为1的“概率”,最后通过阈值来决定类别。本文分成三部分来叙述,分别为:一、线性部分,二、sigmoid函数,三、阈值的确定。
逻辑回归算法

一、线性部分:
        从模型的思想出发,希望找到一个超平面能够实现类别区分。(这里其实与svm相似,不同的是LR用到了全局的数据,而svm只用了有限个数的“支持向量”)
超平面
为方便显示,以一个二维特征的平面图表示,图中的线性组合wTx=0时,就是所说的超平面,假设能够完美进行切分。对于线性部分,公式如下:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值