《统计学习方法》——逻辑斯蒂回归

  • 逻辑斯蒂回归模型

定义6.1(逻辑斯蒂分布):设X是连续随机变量,X服从逻辑斯蒂分布是指X具有下列分布函数和密度函数:

F(x)=P(X\leqslant x)=\frac{1}{1+e^{-(x-\mu )/\gamma }}

f(x)={F}'(x)=\frac{e^{-(x-\mu )/\gamma }}{\gamma (1+e^{-(x-\mu )/\gamma })^{2}}

式中,\mu为位置参数,\gamma > 0为形状参数。

  • 二项逻辑斯蒂回归模型

定义6.2(逻辑斯蒂回归模型):二项逻辑斯蒂回归模型是如下的条件概率分布:

P(Y=1|x)=\frac{exp(w\cdot x+b)}{1+exp(w\cdot x+b)}

P(Y=0|x)=\frac{1}{1+exp(w\cdot x+b)}

有时为了方便,将权值向量和输入向量加以扩充,仍记作w,x,即w=(w^{(1)},w{(2)},...,w{(n)},b)^{T}x=(x^{(1)},x^{(2)},...,x^{(n)},1)^{T}。这时,逻辑斯蒂回归模型如下:

P(Y=1|x)=\frac{exp(w\cdot x)}{1+exp(w\cdot x)}

P(Y=0|x)=\frac{1}{1+exp(w\cdot x)}

考察逻辑斯蒂回归模型的特点。一个事件的几率是指该事件发生的概率与该时间不发生的概率的比值。如果事件发生的概率是p,那么该事件发生的几率是\frac{p}{1-p},该事件的对数几率或logit函数是:

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值