该篇文章由某大学课件整理而得,涉及公式较多,输入不便,直接截图,请见谅!
EM算法是一种迭代算法,用于含有隐含变量的概率模型参数的极大似然估计,或极大后验概率估计。
EM算法的每次迭代由两步组成:E步,求期望(expection);M步,求极大(maximization)。
算法距离:
(三硬币模型)假设有3枚硬币,分别记作A,B,C。这些硬
币正面出现的概率分别是π,p和q。进行如下抛硬币实验:先抛硬
币A,根据其结果选出硬币B或硬币C,正面选硬币B,反面选硬币C;
抛选出的硬币,出现正面记作1,出现反面记作0;独立地重复n次实
验(这里,n=10),观测结果如下:
1,1,0,1,0,0,1,0,1,1
假设只能观测到抛硬币的结果,不能观测抛硬币的过程。问如何估
计三枚硬币正面出现的概率,即三硬币模型参数。
其中
接着令
混合高斯模型背景建模的思想是把每一个像素点所呈现的颜色用M个状态来表示,通常M取3-5之间,将每个状态用一个高斯分布来近似.将像素点所呈现的颜色用随机变量X来表示,在每个时刻T得到视频图像的像素值为随机变量X的采样值.则对于第个状态的像素的分布可表示为:
混合高斯模型的参数更新:
在时刻t,对图像帧的每个像素值Xt和它对应的混合高斯模型进行匹配检验:
如果像素值Xt与混合高斯模型中第k个高斯分布Gk均值的距离小于其标准差的2.5倍,则定义该高斯分布Gk与像素值Xt匹配。
(初始化:第一帧中,第一个高斯分布的权值为1,期望为第一个像素数据.其余高斯分布权值为0,期望为0.每个高斯分布都被赋予适当的相等的初始方差.)
如果检测出该像素混合高斯模型中至少有一个高斯分量与像
素Xt匹配,那么混合高斯模型的参数更新方式如下:1)对于
不匹配的高斯分量,他们的均值和协方差矩阵保持不变;2)
对于匹配的高斯分量,他们的均值和协方差矩阵按下式更新:
如果该像素对应的混合高斯模型中,没有高斯分量与该像素Xt匹配,那么将最不可能代表背景过程的高斯分量Gj(权重最小的分量)重新赋值,即:用当前像素值Xt作为均值,并给予一个较大(比其他的高斯分量的方差都要大)的方差以及一个较小的权重(比其他的高斯分量的权重都要小)。
如果该像素对应的混合高斯模型中,没有高斯分量与该像素Xt匹配,那么将最不可能代表背景过程的高斯分量Gj(权重最小的分量)重新赋值,即:用当前像素值Xt作为均值,并给予一个较大(比其他的高斯分量的方差都要大)的方差以及一个较小的权重(比其他的高斯分量的权重都要小)。
模型改进:
1)对参数的初始化方式以及更新方式:
首先用标准EM算法对前N帧进行学习(不参与前景建模),得到一个稳定的背景后采用固定的进行检测.
2)混合高斯模型中K的值自适应:在不同时间,不同区域K的值不同。
详细原理及公式推导详见:http://download.csdn.net/detail/u011501388/9714875