本文深入探讨了逻辑回归模型，从logistic分布到二项逻辑回归模型的构建，详细阐述了参数估计方法——极大似然估计法，并通过代码展示了优化过程。利用ensmallen的L_BFGS优化器进行求解，最终得出模型预测结果。
Logistic回归
模型
logistic 分布
F ( x ) = P ( X ⩽ x ) = 1 1 + e − ( x − μ ) / γ f ( x ) = F ′ ( x ) = e − ( x − μ ) / γ γ ( 1 + e − ( x − μ ) / γ ) 2 F(x) = P(\mathrm{X} \leqslant x) = \dfrac{1}{1 + e^{-(x-\mu)/\gamma}} \\[6pt] f(x) = F'(x) = \dfrac{e^{-(x-\mu)/\gamma}}{\gamma(1 + e^{-(x-\mu)/\gamma})^2} F(x)=P(X⩽x)=1+e−(x−μ)/γ1f(x)=F′(x)=γ(1+e−(x−μ)/γ)2e−(x−μ)/γ
二项 logistic 回归模型
P ( Y = 1 ∣ x ) = exp ( w ⋅ x + b ) 1 + exp ( w ⋅ x + b ) P ( Y = 0 ∣ x ) = 1 1 + exp ( w ⋅ x + b ) 其中 x ∈ R n , Y ∈ { 0 , 1 } , w ∈ R n , b ∈ R P(Y=1|x) = \dfrac{\exp(w \cdot x + b)}{1 + \exp(w \cdot x + b)} \\[6pt] P(Y=0|x) = \dfrac{1}{1 + \exp(w \cdot x + b)} \\[6pt] \text{其中} \ x \in \mathbb{R}^n \ , \ Y \in \{ 0, \ 1 \} \ , w \in \mathbb{R}^n \ , \ b \in \mathbb{R} P(Y=1∣x)=1+exp(w⋅x+b)exp(w⋅x+b)P(Y=0∣x)=1+exp(w⋅x+b)1
最低0.47元/天 解锁文章
扫一扫
692
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
