高斯混合聚类EM-GMM的原理和python实现

已于 2022-05-10 13:10:00 修改
阅读量1.2k 收藏 1
点赞数
分类专栏： 机器学习之聚类/回归 文章标签： 聚类 算法 机器学习
于 2022-05-09 20:34:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41413211/article/details/124605693
版权

目录

预备知识

后验概率

极大似然估计

EM算法

适用场合

高斯模型

单高斯模型

混合高斯模型

计算流程

python实现

参考资料

sklearn实现

预备知识

先验概率

事情还没有发生，根据以往经验（已知数据分布）来判断事情发生的概率

扔一个硬币，在扔之前就知道正面向上的概率为0.5   

后验概率

极大似然估计

用于在数据分布假定的情况下，求模型参数

蕴含的一个直观的想法是：在给定模型下，现在已经得到样本值，这表示取得这一观察值的概率比较大，而我们所估计出来的参数，正是为了使现有观察情况出现可能性最大。要特别说明的是，极大似然估计有一个很重要的假设，就是所使用的样本之间是满足独立同分布的。

 上式为混合高斯的极大似然（多个正态分布的极大似然），

了解本专栏 订阅专栏 解锁全文
坠金
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
订阅专栏
Python实现高斯混合聚类(GMM)
CSDN 精品推荐
05-02 1753
高斯混合聚类（`Gaussian Mixture Model，GMM`）是一种基于概率模型的聚类算法。它假设每个簇都由多个高斯分布组成，即每个簇的数据点都是从不同的高斯分布中采样得到的。在高斯混合模型中，每个簇由以下三个参数定义：均值向量（`mean vector`）、协方差矩阵（`covariance matrix`）和权重（`weight`）。
高斯混合模型（Gaussian Mixture Model，GMM）聚类算法（python实现）
zwy123987的博客
05-12 991
高斯混合模型（Gaussian Mixture Model，GMM）是一种基于概率模型的聚类方法，它假设数据是由多个高斯分布组成的混合体。以下是 GMM 聚类算法的基本原理和数学公式。
详解高斯混合聚类(GMM)算法原理
babyai996的博客
04-08 1万+
GMM算法假设数据点是由一个或多个高斯分布生成的，并通过最大似然估计的方法来估计每个簇的高斯分布的参数。总的来说，GMM是一种非常有效的聚类算法，使用场景多样，如在体育领域，GMM聚类算法也可以用于运动行为检测，使用GMM聚类算法对跑步数据进行聚类，以便更加准确地识别不同的跑步状态。可以看到，人员1、人员2、人员3和人员6属于聚类1，人员5和人员8属于聚类2，人员4和人员7属于聚类3。假设聚类的数量为3。可以看到，人员1属于聚类1的概率是0.96，属于聚类2的概率是0.03，属于聚类3的概率是0.01。
GMM 高斯混合模型 聚类 Python实现
csdn_inside的博客
12-26 1万+
原理也不多说了。。大致思路就是把数据建立成k个高斯分布，EM迭代N次。最后看每个点在哪个高斯分布的概率最高，就分到那个分布。 这里的computeGamma函数，用来算第i个簇的后验概率γji，用了2层循环，效率不高，本来想向量化的，搞了半天没搞出来。。干脆就先循环吧。。包括后面的fit方法也是一样。。用了很多循环。 X的shape是(n_samples,n_features) mu的sha...
gmm聚类python_GMM与EM算法的Python实现
weixin_39925959的博客
12-11 1456
高斯混合模型(GMM)是一种常用的聚类模型，通常我们利用最大期望算法(EM)对高斯混合模型中的参数进行估计。本教程中，我们自己动手一步步实现高斯混合模型。高斯混合模型(Gaussian Mixture Model，GMM)是一种软聚类模型。 GMM也可以看作是K-means的推广，因为GMM不仅是考虑到了数据分布的均值，也考虑到了协方差。和K-means一样，我们需要提前确定簇的个数。GMM的基本...
机器学习强基计划7-4：详细推导高斯混合聚类(GMM)原理(附Python实现)
FRIGIDWINTER的博客
12-05 2548
高斯分布是一个在理、工、文科等多个领域都非常重要的概率分布，本文介绍基于混合高斯分布的混合高斯聚类GMM算法，给出详细的公式推导，并提供Python算法复现
原型聚类之高斯混合聚类及Python实现
FAICULTY的博客
03-08 5917
高斯混合模型聚类(Gaussian Mixture Mode，GMM) 高斯混合模型是一种概率式的聚类方法，它假定所有的数据样本 xxx由kkk个混合多元高斯分布组合成的混合分布生成。 p(x)=∑i=1kαi⋅p(x|μi,Σi)(1.1)(1.1)p(x)=∑i=1kαi⋅p(x|μi,Σi)p(x)=\sum_{i=1}^{k}\alpha _{i}\cdot p(x | \mu _{i...
利用Python实现高斯混合模型（GMM）
热门推荐
戴璞微的学习之路
07-20 4万+
前言 之前将网易公开课上吴恩达机器学习视频中高斯混合模型（GMM）及其EM算法反反复复看了几遍之后并将所有公式重新推导了一遍，现在利用Python进行手写进一步加深理解。关于吴恩达机器学习中相关讲义的整理另行抽时间进行上传博客。 Python代码 #!/usr/bin/python3 # -*- coding: utf-8 -*- # @Time : 2018/7/19 10:...
头歌平台 --- 机器学习 --- 高斯混合聚类
weixin_62466306的博客
11-12 3037
头歌机器学习 --- 高斯混合聚类
机器学习Chapter3-(聚类分析)详解高斯混合模型与EM算法(Python实现)
DFan的NoteBook
10-21 1万+
高斯混合聚类k-means是用原型向量来刻画聚类，高斯混合(Mixture-of-Gaussian)聚类采用概率模型来表达聚类原型。不一样参数下，高斯分布如下：对于多元高斯分布，nn维样本空间XX中的随机向量xx，概率密度函数为 p(x|μ,Σ)=1(2π)n2|Σ|12e−12(x−μ)TΣ−1(x−μ) p(x|\mu,\Sigma ) = \frac{1}{(2\pi)^{\frac{n}{
基于python的高斯混合模型（GMM 聚类）的 EM 算法实现
03-27
在数据挖掘领域，聚类是一种无...通过理解GMM和EM算法的工作原理，我们可以有效地对复杂数据集进行聚类分析，揭示隐藏的结构和模式。在实际应用中，结合业务知识和模型验证，GMM聚类能够为数据分析带来有价值的洞见。
聚类算法-使用Matlab+Python实现从头实现聚类算法-项目源码-优质项目分享.zip
04-16
- **GMM（高斯混合模型）**：假设数据来自多个高斯分布，通过EM算法求解。 4. **从头实现聚类算法** - **理解原理**：掌握每种算法的基本思想和数学模型，例如K-Means的质心迭代、DBSCAN的邻域概念。 - **编写...
ML.zip_EM 图像_EM 图像聚类_GMM EM聚类_gmm em_高斯混合
09-24
"GMM.py"和"GMM-EM.py"可能是实现这一过程的Python代码。 接下来，PCA是一种无监督学习方法，用于降低数据的维度并保持其方差最大。在图像分析中，PCA通过对原始高维数据进行线性变换，找到新的坐标系，使得新坐标...
python实现k-means聚类方法和混合高斯模型
10-16
这里我们关注的是两种常见的聚类算法：K-Means算法和混合高斯模型（GMM）。这两种算法在数据分析、图像处理、推荐系统等领域都有广泛应用。 **K-Means算法** K-Means是最基础且广泛使用的聚类算法之一。其核心思想...
各种聚类方法的聚类思想介绍及其优缺点
QianMo的博客
07-22 1503
对于计算复杂度较低的聚类算法，K-means 和 Mini-Batch K-means 是较好的选择，尤其适用于大规模数据集。尽管它们都有需要预先指定簇数量的缺点，但其简单性和高效性使其在许多实际应用中非常受欢迎。层次聚类（单链）和均值漂移适用于中小规模数据集，虽然计算复杂度相对较高，但在不需要预先指定簇数量的场景中具有优势。
学习记录day18——数据结构 算法
最新发布
weixin_64918301的博客
07-24 807
程序 = 数据结构 + 算法算法是程序设计的灵魂，结构式程序设计的肉体算法：计算机解决问题的方法护额步骤。
算法训练营第47天|1143.最长公共子序列|1035.不相交的线|53. 最大子序和|392.判断子序列
bless_______的博客
07-24 307
如果text1[i - 1] 与 text2[j - 1]不相同，那就看看text1[0, i - 2]与text2[0, j - 1]的最长公共子序列 和 text1[0, i - 1]与text2[0, j - 2]的最长公共子序列，取最大的。如果text1[i - 1] 与 text2[j - 1]相同，那么找到了一个公共元素，所以dp[i][j] = dp[i - 1][j - 1] + 1;未想到特殊情况，即s或t为空串的情况，因为返回的是数组值，但是如果是空串就不会建立数组。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

坠金

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值