Spark2.0机器学习系列之10: 聚类(高斯混合模型 GMM)

       在Spark2.0版本中(不是基于RDD API的MLlib),共有四种聚类方法:
     (1)K-means
     (2)Latent Dirichlet allocation (LDA)
     (3)Bisecting k-means(二分k均值算法)
     (4)Gaussian Mixture Model (GMM)。
       基于RDD API的MLLib中,共有六种聚类方法:
     (1)K-means
     (2)Gaussian mixture
     (3)Power iteration clustering (PIC)
     (4)Latent Dirichlet allocation (LDA)**
     (5)Bisecting k-means
     (6)Streaming k-means
       多了Power iteration clustering (PIC)和Streaming k-means两种。
       本文将介绍其中的一种高斯混合模型 ,Gaussian Mixture Model (GMM)。其它方法在我的Spark机器学习系列里面,都会介绍。

       混合模型:通过密度函数的线性合并来表示未知模型p(x)
      为什么提出混合模型,那是因为单一模型与实际数据的分布严重不符,但是几个模型混合以后却能很好的描述和预测数据。
       高斯混合模型(GMM),说的是把数据可以看作是从数个高斯分布中生成出来的。虽然我们可以用不同的分布来随意地构造 XX Mixture Model ,但是 GMM是最为流行。另外,Mixture Model 本身其实也是可以变得任意复杂的,通过增加 Model 的个数,我们可以任意地逼近任何连续的概率密分布。
      二维情况下高斯分布模拟产生数据的分布是椭圆,如下图:
这里写图片描述

      对于下面图(a)观测数据,单一的高斯概率分布函数(一个椭圆)无法表达,仔细看图(a)近似包含三个椭圆,所以可以将三个高斯概率分布函数线性组合起来,各个函数有不同的参数Nσi,μi和权重πi。线性组合

p(x|μi,σi,πi)=i=13πi12πσiexp((xμi)22σ2i)
这样就能计算所有样本出现的概率了。图(b)已经明确了样本分类。
这里写图片描述
      更一般地,GMM认为数据是从K个高斯函数组合而来的,即
p(x)=k=1KπkN(x;μk,σk)

      隐含K个高斯函数,K需要首先确定好。
      如果估计未知参数π,μ,σ,我们首先得分析以下最大似然估计:
i=1Nlog{k=1KπkN(x;μk,σk)}

      由于在对数函数里面又有加和,我们没法直接用求导解方程的办法直接求得最大值。为了解决这个问题,采用了EM方法。
       EM算法可参考我的另一篇文章
《机器学习算法(优化)之二:期望最大化(EM)算法》http://blog.csdn.net/qq_34531825/article/details/52856948.

EM算法模型参数估计

      每个GMM由K个Gaussian component分布组成。我以一维Gaussian函数,GMM模型有3个隐含component为例,通俗的说明。
E过程:
      假定我们通过迭代(或者初始化),假设已经已经知道了GMM模型的三个component Gaussian函数的参数θ(t)=σ(t)1,μ(t)1σ(t)2,μ(t)2σ(t)3,μ(t)3,且这三个函数分别以π(t)1=0.3π(t)2=0.3π(t)3=0.4的概率被GMM模型选中(即π(t)iicomponent)。
      高斯混合模型为p(x|θ)=0.3N(x;μ1,σ1)+0.3N(x;μ2,σ2)+0.4N(x;μ3,σ3)
      迭代的第t步,对于观测到的x点,那么他究竟是3个隐含的Gaussina曲线中的那一个产生的呢?应该说都有可能,只是产生的概率大小不一样而已。如图中的x点,它由N(x;μ3,σ3)产生的可能性最大,概率为π3N(x;μ3,σ3),假设为0.4*0.30=0.12,其次是π2N(x;μ2,σ2),假设为0.3*0.15=0.045,最小是π1N(x;μ1,σ1),假设为0.3*0.02=0.006。因此x出现总的概率是0.12+0.045+0.006=0.1656

      从另一个角度看,对于观测到的某个点x,推测是由N(x;μ3,σ3)产生的可能性有多大,自然我们认为是:0.12/0.1656=0.7246(虽然非常简单,但是理解这一点是后面E步公式得出的关键点);以此类推测,x是由N(x;μ2,σ2)产生的可能性=0.045/0.1656=0.2717,x是由N(x;μ1,σ1)产生的可能性0.006/0.1656=0.0362。

这里写图片描述
      更一般地,GMM认为数据是从K个高斯函数组合而来的,即

p(x)=k=1KπkN(x;μk,σk)

      隐含K个高斯函数,K需要首先确定好。任意高斯分布定义为N(x;μk,σk)k=1,2,...K.

      (1)E:对于观测点xi,是由第k个component产生的概率为

γ(xi,k)=π(t)kN(xi;μ(t)k,σ(t)k)kj=1π(t)jN(xi;μ(t)j,σ(t)j)

      (2)M:xi可以看作是有各部分加和而成的,其中由第k个component产生部分自然为:γ(xi,k)xi,所以可以认为第k个component产生了如下的数据:

γ(xi,k)xi  i=1,2,...N

      而由于每个 Component 都是一个标准的 Gaussian 分布,可以很容易分布求出最大似然所对应的参数值:
      
μ(t+1)k=1Ni=1Nγ(xi,k)xi
σ(t+1)k=1Nki=1Nγ(xi,k)(xiμk)(xiμk)T
Nk=i=1Nγ(xi,k)
π(t+1)k=Nk/N

      这样就完成了参数的更新,重复E步骤进行下一次迭代,直到算法收敛。

模型参数K设置及聚类结果评估

      大家可能会想到,上图(a)中的数据分布太具有实验性质了,实际中那有这样的数据,但GMM牛逼的地方就在于通过增加 Model 的个数(也就是组成成分的数量K,其实就是我们的分类个数),可以任意地逼近任何连续的概率密分布。所以呢,理论上是绝对支持的,而实际上呢,对于多维特征数据我们往往难以可视化,所以难把握的地方也就在这里,如何选取K 值?换句化说聚类(无监督分类)拿什么标准如何评估模型的好坏?因为如果对结果有好评价指标的话,那么我们就可以实验不同的K,选出最优的那个K就好了,到底有没有呢?
      这个话题又比较长,有人认为聚类的评估一定要做预先标注,没有Index总是让人觉得不靠谱,不是很让人信服。但是也有不同学者提出了大量的评估方法,主要是考虑到不同聚类算法的目标函数相差很大,有些是基于距离的,比如k-means,有些是假设先验分布的,比如GMM,LDA,有些是带有图聚类和谱分析性质的,比如谱聚类,还有些是基于密度的,所以难以拿出一个统一的评估方法,但是正是有这么些个原理上的不同,记着不与算法本身的原理因果颠倒的情况下,那么针对各类方法还是可以提出有针对性的评价指标的,如k-means的均方根误差。其实更应该嵌入到问题中进行评价,很多实际问题中,聚类仅仅是其中的一步,可以对比不聚类的情形(比如人为分割、随机分割数据集等等),所以这时候我们评价『聚类结果好坏』,其实是在评价『聚类是否能对最终结果有好的影响』。(本部分来综合了知乎上的部分问答:如有不妥之处,敬请告知。http://www.zhihu.com/question/19635522
      关于聚类的评估问题,我计划再写另外一篇文章《Spark聚类结果评估浅析》,不知道能否写好。
CSDN上还有文章可参考: 聚类算法初探(七)聚类分析的效果评测 http://blog.csdn.net/itplus/article/details/10322361

//训练模型
val gmm=new GaussianMixture().setK(2).setMaxIter(100).setSeed(1L)
val model=gmm.fit(dataset)

//输出model参数
for(i<-0 until model.getK){
      println("weight=%f\nmu=%s\nsigma=\n%s\n" format(model.weights(i), model.gaussians(i).mean, model.gaussians(i).cov))
      //weight是各组成成分的权重
      //nsigma是样本协方差矩阵
      //mu(mean)是各类质点位置      

参考文献:
(1)混合高斯模型算法http://www.cnblogs.com/CBDoctor/archive/2011/11/06/2236286.html
(2) 聚类算法初探(七)聚类分析的效果评测 http://blog.csdn.net/itplus/article/details/10322361
(3)知乎 http://www.zhihu.com/question/19635522
(4)Rachel-Zhang的CSDN博客 GMM的EM算法实现 http://blog.csdn.net/abcjennifer/article/details/8198352
(5)漫谈 Clustering (3): Gaussian Mixture Model http://blog.pluskid.org/?p=39

©️2020 CSDN 皮肤主题: 编程工作室 设计师: CSDN官方博客 返回首页
实付0元
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值