首先我们得清楚MAP与MLE的概念是什么?
MAP:maximun a posteriori 最大后验估计
假设
θ
θ
是能够最好解释数据集
D
D
概率分布的参数。我们希望利用贝叶斯原理来估计参数:
p(θ|D)=p(D|θ)∗p(θ)p(D)
p
(
θ
|
D
)
=
p
(
D
|
θ
)
∗
p
(
θ
)
p
(
D
)
posterior=likelihood∗priorevidence
p
o
s
t
e
r
i
o
r
=
l
i
k
e
l
i
h
o
o
d
∗
p
r
i
o
r
e
v
i
d
e
n
c
e
MLE:Maximum Likelihood Estimate 极大似然估计
已知某个随机样本满足某种概率分布,但是其中具体的参数不清楚,参数估计就是通过若干次试验,观察其结果,利用结果推出参数的大概值。