1 似然函数与概率函数
对于条件概率函数P(x∣θ):
- 如果θ是已知确定的,x是变量,这个函数叫做概率函数(probability function),它描述对于不同的样本点x,其出现概率是多少。
- 如果x是已知确定的,θ 是变量,这个函数叫做似然函数(likelihood function), 它描述对于不同的模型参数,出现x这个样本点的概率是多少。
2 MLE
最大似然估计,也就是最大化P(x|θ),而一般来说,这个x是很多独立的随机变量组成的,因此P(x|θ)可以是很多项P(xi|θ)的乘积,然后最大化乘积以求得θ的值
3 MAP
最大后验估计
最大化P(θ|x),也就是已知样本点,哪种参数θ的后验概率最大
,但是x0是已知的,所以就等于P(x|θ)P(θ)