对数几率回归(逻辑回归)中的sigmoid函数两边取对数转换为对数几率回归模型表达式的过程

公式(3-4)是:

y = 1 1 + e − ( w T x + b ) y = \frac{1}{1 + e^{-(w^T x + b)}} y=1+e(wTx+b)1

这个公式描述的是逻辑回归中的sigmoid函数

我们想从这个式子推导出 ln ⁡ ( y 1 − y ) \ln\left(\frac{y}{1 - y}\right) ln(1yy),即求解 odds 的自然对数。

  1. 由公式(3-4),将两边同时乘以 1 + e − ( w T x + b ) 1 + e^{-(w^T x + b)} 1+e(wTx+b)
    y ( 1 + e − ( w T x + b ) ) = 1 y(1 + e^{-(w^T x + b)}) = 1 y(1+e(wTx+b))=1

  2. 接着将 y y y 移到等式右边:
    1 + e − ( w T x + b ) = 1 y 1 + e^{-(w^T x + b)} = \frac{1}{y} 1+e(wTx+b)=y1

  3. 然后减去 1:
    e − ( w T x + b ) = 1 y − 1 = 1 − y y e^{-(w^T x + b)} = \frac{1}{y} - 1 = \frac{1 - y}{y} e(wTx+b)=y11=y1y

  4. 取两边的自然对数:
    − ( w T x + b ) = ln ⁡ ( 1 − y y ) -(w^T x + b) = \ln\left(\frac{1 - y}{y}\right) (wTx+b)=ln(y1y)

  5. 最后乘以 -1,得到:
    w T x + b = ln ⁡ ( y 1 − y ) w^T x + b = \ln\left(\frac{y}{1 - y}\right) wTx+b=ln(1yy)

对数的性质:对数的负号会使分子和分母交换
这就是推导的过程。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值