极大似然估计的思想，就是在给定样本值的情况下，构建未知参数的函数，寻找能够使得观测到样本数据的可能性最大的估计参数。
定义似然函数为
L ( θ ; y 1 , ⋯ , y n ) = ∏ i = 1 n f ( y i ; θ ) L(\theta;y_1,\cdots,y_n)=\prod_{i=1}^nf(y_i;\theta) L(θ;y1,⋯,yn)=i=1∏nf(yi;θ)
似然函数与联合密度函数相等，只是似然函数中 θ \theta θ 为自变量。
极大似然估计量为
θ M L ^ = arg max ln L ( θ ; y ) \hat{\theta_{ML}}=\argmax\ln{L(\theta;y)} θML^=argmaxlnL(θ;y)
该无约束极值问题的一阶条件为
s ( θ ; y ) = ∂ ln L ( θ ; y ) ∂ θ = 0 s(\theta;y)=\frac{\partial \ln L(\theta;y)}{\partial\theta}=0 s(θ;y)=∂θ∂lnL(θ;y)=0
对数似然函数的梯度向量为0，称为得分函数。可以证明，得分函数的期望为0。
线性回归模型的极大似然估计
假设线性回归模型为，
y = X β + ϵ \pmb{y=X\beta+\epsilon} y=Xβ+ϵy=Xβ+ϵ</
最低0.47元/天 解锁文章
扫一扫
1529
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
