构建实现Logistic回归

Logistic回归是数据分析中的一种常用分类算法。
要想使用Logistic回归,可以使用sklearn库中自带的方法

from sklearn.linear_model import LogisticRegression

# Logistic回归模型
model = LogisticRegression()

这种方式最为简便,但是为了深入理解Logistic回归算法的原理,我们也可以自己用代码实现Logistic回归。

Logistic回归数学原理

这里仅给出公式,不涉及具体的推导过程。

  1. 预测函数

h θ ( x ) = g ( θ T x ) = 1 1 + e − θ T x h_{\theta}(x) = g(\theta^Tx) = \frac{1}{1 + e^{-\theta^Tx}} hθ(x)=g(θTx)=1+eθTx1
可以看到,实际上Logistic回归算法的预测函数就是sigmoid函数和线性方程的结合

S ( x ) = 1 1 + e − x S(x) = \frac{1}{1 + e^{-x} } S(x)=1+ex1
f ( x ) = θ T x f(x) = \theta^Tx f(x)=θTx

  1. 损失函数

L ( θ ) = ∏ i = 1 n ( h θ ( x i ) ) y i ( 1 − h θ ( x i ) ) 1 − y i L(\theta) = \prod\limits_{i=1}^n(h_{\theta}(x_i))^{y_i}(1 - h_{\theta}(x_i))^{1-y_i} L(θ)=i=1n(hθ(xi))yi

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值