混合拉普拉斯分布（LMM）推导及实现

作者：桂。

时间：2017-03-21  07:25:17

链接：http://www.cnblogs.com/xingshansi/p/6592599.html 

声明：欢迎被转载，不过记得注明出处哦~

---

 

前言

本文为曲线拟合与分布拟合系列的一部分，主要讲解混合拉普拉斯分布（Laplace Mixture Model，LMM）。拉普拉斯也是常用的统计概率模型之一，网上关于混合高斯模型（GMM）的例子很多，而关于LMM实现的很少。其实混合模型都可以用EM算法推导，只是求闭式解的运算上略有差别，全文包括：

　　1）LMM理论推导；

　　2）LMM代码实现；

内容多有借鉴他人，最后一并附上链接。

 

一、LMM理论推导

　　A-模型介绍

对于单个拉普拉斯分布，表达式为：

$f(Y) = \frac{1}{ {2b}}{e^{ - \frac{ {\left| {Y - \mu } \right|}}{b}}}$

对于$K$个模型的混合分布：

$P\left( { {Y_j}|\Theta } \right) = \sum\limits_{k = 1}^K { {w_k}f\left( { {Y_j}|{\mu _k},{b_k}} \right)} $

如何拟合呢？下面利用EM分析迭代公式，仅分析Y为一维的情况，其