[机器学习]最大似然估计

ref1.《模式分类》（Richard O. Duda）chapter3

1. 最大似然估计：

   把待估计参数看作是确定性的量，只是取值未知； 

   最佳估计：使得  产生已观测样本（训练样本）的概率为最大  的值 。

过程：

样本集D中的样本独立同分布，参数 theta，求使得p(D|theta)的值最大的theta，p(D|theta)看作是关于theta的函数，

似然函数 l(theta)=ln p(D|theta)，令l(theta)的导数=0，求得相应参数。

举例：

3.2.2 关于高斯分布u未知的估计

3.2.3 关于高斯分布u，sigma均未知的估计

3.2.4

        C为样本协方差矩阵（分母是n-1），而估计值sigma=(n-1)/n C，是渐近无偏的估计

===========================================================================================

为什么样本方差（sample variance）的分母是 n-1？</