目录
一 最大似然估计(MLE)
1 概念
假定参数先验概率相等,已知的样本结果,反推最大可能(最大概率)导致这样本结果的参数
2 流程
第一步:似然函数
第二步:对似然函数求对数
第三步:求导数
第四步:解似然方程
二 最大后验估计(MAP)
1 概念
假定参数先验概率不等,已知样本结果,反推最大可能(最大概率)导致这样本结果的参数
三 最大期望估计(EM)
1 概念
在概率模型中计算参数最大似然估计或者参数最大后验估计的迭代算法
注意:概率模型依赖无法观测的隐变量
2 原理(迭代最大似然估计)
第一步:极大化对数似然函数
第二步:存在隐变量