Dirichlet分布与Multinomial分布

最新推荐文章于 2024-07-08 17:32:03 发布
最新推荐文章于 2024-07-08 17:32:03 发布
阅读量1.7k 收藏
点赞数
分类专栏： NLP

Dirichlet分布其实也是采样出一个值（向量），从这个意义上来说，它其实和其它分布并无太大不同？那为什么大家都说Dirichlet分布式分布的分布呢？因为Dirichlet分布出现的场景，总是用于生成别的分布（更确切地说，总是用于生成Multinomial分布）

Dirichlet分布得到的向量各个分量的和是1，这个向量可以作为Multinomial分布的参数，所以我们说Dirichlet能够生成Multinomial分布，也就是分布的分布



作者：Earthson Lu
链接：https://www.zhihu.com/question/23749913/answer/26749186
来源：知乎



一般在主题模型LDA中用到

主题模型TopicModel：隐含狄利克雷分布LDA

小楼闻夜雨
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Dirichlet Multinomial 共轭
littlehaes的博客
03-21 1084
Welcome To My Blog 作为LDA的预备知识,Dirichlet Multinomial共轭结构很重要,在介绍这个共轭结构之前,先介绍一下将会用到的相关概念 一.Gamma 函数 Gamma函数定义: 分部积分后可得: 不断展开等式右边,进而有: Bohr-Mullerup定理: 如果f:(0,∞)→(0,∞),且满足:f(1)=1;f(x+1)=xf(...
Dirichlet-Multinomial 共轭
颹蕭蕭
10-09 1154
多项分布 假设一次实验有 K 种结果，每种结果对应的概率分别为：p1,…,pKp_1, \ldots, p_Kp1​,…,pK​，且满足： p1+p2+⋯+pK=1 p_1 + p_2 + \cdots + p_K = 1 p1​+p2​+⋯+pK​=1 则进行 M 次实验，每种结果分别出现 m1,…,mKm_1, \ldots, m_Km1​,…,mK​ 的概率为： P(m1,…,mK;p)=CMm1p1m1⋅CM−m1m2p2m2⋯CmKmKpKmK=(CMm1CM−m1m2⋯CmKmK)(p1m1p2
【机器学习基础详解01】——支持向量机(SVM)算法原理与实践
最新发布
zhejie666的博客
07-08 951
那么的形式是怎么样的呢？这一小节研究的形式。对任意两个向量和，有，那么仍然能够通过一些技巧获得测试样本X的类别信息，从而完成对测试样本类别的预测。定义为核函数，是实数。下面举例说明核函数K以及低维到高维的映射的关系。例子1：已知求假设是一个将二维向量映射到三维向量映射，如下所示：我们来看下核函数的形式，假设有两个二维向量：，根据前边得：，那么有如下式子：上述就是一个已知求的例子。例子2：已知求假设X是一个二维向量，。有如下式子：（为什么这么表示呢，这是一种。
LDA主题模型参数推导-dirichlet-multinomial model posterior
03-10 953
LDA理论参考： http://blog.csdn.net/v_july_v/article/details/41209515 http://www.xperseverance.net/blogs/2012/03/17/ http://blog.csdn.net/yangliuy/article/details/8302599 迪拉格雷-多项式分布模型(dirichle
基于狄利克雷-多项式分布做文档聚类代码(dirichlet multinomial mixture model)
qy20115549的博客
03-05 3884
论文来源Yin J, Wang J. A dirichlet multinomial mixture model-based approach for short text clustering[C]//Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and data mining.
Dirichlet Multinomial Mixture Model做短文本聚类
qy20115549的博客
03-03 3876
论文来源Yin J, Wang J. A dirichlet multinomial mixture model-based approach for short text clustering[C]//Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and data mining.
狄利克雷分布
05-15
狄利克雷分布（Dirichlet distribution）是概率论与统计学中的一个非常重要的多变量概率分布，通常用于表示一组随机变量的概率分布，这些随机变量代表的是一个离散分布的概率参数。它在贝叶斯统计学中扮演着重要角色...
DPMMSubClusters.jl：Dirichlet过程混合物模型中的分布式MCMC推理（High Performance Machine Learning Workshop 2019）
02-04
Dirichlet过程是一种概率分布，它允许我们在无限维空间中建模，这对于处理具有未知数量成分的混合模型特别有用。在DPMM中，数据被假设是由多个未观察到的“成分”或“群组”生成的，而这些成分自身是按照Dirichlet...
LDA数学八卦1
08-03
Dirichlet-Multinomial分布则扩展到多类别情况，是多项式分布的共轭先验，对于LDA的主题建模非常关键。 0.3.4 Beta和Dirichlet分布的性质和应用 讨论了这两个分布在模型推断中的重要性，以及它们如何与马尔科夫链...
Dirichlet Multinomial Mixtures (DMM)的R实现
Christina
11-30 4012
Dirichlet Multinomial Mixtures Community typing with Dirichlet Multinomial Mixtures Dirichlet Multinomial Mixtures (DMM)是一种用于对微生物群落分析数据进行群落分型（或聚类）的概率方法。 这是一个无限的混合模型，这意味着该方法可以推断出最佳数量的群落类型。 请注意，群落类型的数量可能会随数据大小而增长。 library(microbiome) library(DirichletMu.
从 Beta-Binomial 共轭到 Dirichlet-Multinomial 共轭
01-20 2964
共轭分布： 我们首先来看 Beta-Binomial 共轭的形式： Beta(p|α,β)+BinomCount(m 1 ,m 2 )=Beta(p|α+m 1 ,β+m 2 )  Beta(p|\alpha, \beta)+BinomCount(m_1,m_2)=Beta(p|\alpha+m_1,\beta+m_2) 对应于先前的小游戏即为： Beta(p|k,n−k+1)+BinomC
浅谈狄利克雷分布——Dirichlet Distribution
热门推荐
止于至玄
12-31 1万+
浅谈狄利克雷分布的概念与简单使用。
多项式混合模型
zkq_1986的博客
05-23 1082
=============================================== Multi_Multi_EM package wangfang_em; import java.io.BufferedReader; import java.io.File; import java.io.FileInputStream; import java.io.I
Beta-Binomial共轭和Dirichlet-Multionmail共轭（LDA基础知识视频）
云南省高校数据化运营管理工程研究中心的博客
01-05 781
Beta-Binomial共轭和Dirichlet-Multionmail共轭 l
Dirichlet Distribution& Process Notes(笔记)
xyqzki的专栏
08-31 1198
1. Dirichlet 概率分布 是 概率分布的分布。its support 是simplex，即Dirichlet 概率密度函数的定义域是simplex上的一个点。Dirichlet Distribution 描述了simplex上每个点的概率，如下图所示                     Figure 1 Dirichlet Distribution (From wiki) 2
主题模型——隐含狄利克雷分布总结
qq_45312141的博客
05-13 2387
LDA1、主题模型LDA简介2、基础知识2.1贝叶公式2.2 Gamma函数2.3 四个分布2.3.1 二项分布2.3.2 多项分布2.3.3 beta分布2.3.4 Dirichlet分布2.3.5 共轭先验分布3、LDA3.1 Unigram Model3.2 PLSA Topic Model3.3 LDA 文本建模 1、主题模型LDA简介 隐含狄利克雷分布简称LDA(Latent Dirichlet allocation)，首先由Blei, David M.、吴恩达和Jordan, Michael
KDD 2014 “A Dirichlet Multinomial Mixture Model-based Approach for Short Text Clustering” 的主要思想
yueliangku的专栏
01-15 3174
这几天在做短文本主题发现时，考虑使用聚类算法不同一主题的文本聚集到一块，因此读了这篇论文： A Dirichlet Multinomial Mixture Model-based Approach for Short Text Clustering 在该文中，作者使用“a collapsed Gibbs Sampling algorithm for the Dirichlet Multinom
Multinoulli分布
weixin_44441131的博客
06-05 4136
最近看论文遇到如下分布 由于之前没见过，很费解，查阅资料弄懂了。 它其实伯努利分布的维度扩展 举个例子最容易懂： 假设现在有事件(通常是互斥的，就是分类问题)A,B,C,D,E,F,G,H,I,J。如果必须给他附上含义，我们假设是动物，即A事件表示狗，以此类推 那么，该分布就有一个参数pi，指的是这些事件的先验概率 假如 P(A)=0.1, P(B)=0.1, … P(I)=0.1 则从该分布中采样其实是一个one_hot向量，假如我们采了一个样，发现是狗P(A),则才出来的样本为[1,0,0,0,
Python计算狄利克雷分布(Dirichlet Distribution)密度估计
呆萌的代Ma
09-07 1623
【代码】Python计算狄利克雷分布(Dirichlet Distribution)密度估计。
理解LDA中的Dirichlet分布及其应用
8. **Beta分布与Dirichlet分布的关系**：Beta分布是Dirichlet分布的低维特殊情况，它们都属于对称的正比分布，理解这两种分布有助于我们更好地理解和应用Dirichlet分布于LDA模型中。 通过学习这些知识点，可以深入...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值