数学
RealDuxy
在路上
个人微信:duxiyang430105
欢迎同行交流
展开
-
逻辑回归的简单推导(以二项逻辑回归为例)
二项逻辑回归模型二分类模型,每个分类由条件概率P(Y|X)表示,Y=1,0, X为实数条件概率分布P(Y=1∣x)=exp(w.x)1+exp(w.x)P(Y=1|x) = \frac {exp(w.x)}{1+exp(w.x)}P(Y=1∣x)=1+exp(w.x)exp(w.x)P(Y=0∣x)=11+exp(w.x)P(Y=0|x) = \frac {1}{1+exp(w.x)}P(Y=0∣x)=1+exp(w.x)1其中 输入x∈Rn+1x \in R^{n+1}x∈Rn+1, 输出$原创 2020-11-07 15:56:50 · 1387 阅读 · 0 评论 -
从极大似然估计(MLE)角度看损失函数(loss function)
1. MLE的理解对于给定样本X=(x1,x2,...,xn)X =(x_1,x_2,...,x_n)X=(x1,x2,...,xn),我们推定模型参数θ\thetaθ,使得由该模型产生给定样本的概率最大,即似然函数f(X∣θ)f(X|\theta)f(X∣θ)最大。假设每个样本独立,似然函数为:likelihood(θ)=f(X∣θ)=∏i=1nf(xi∣θ)likelihood(\theta)=f(X|\theta) = \prod_{i=1}^{n}f(x_i|\theta)likelih原创 2020-10-03 12:53:24 · 4725 阅读 · 0 评论