从折棍子（Stick Breaking）模型到狄利克雷过程（DP）

最新推荐文章于 2023-03-02 13:37:15 发布
最新推荐文章于 2023-03-02 13:37:15 发布
阅读量1.2w 收藏 36
点赞数 6
分类专栏： 专业 文章标签： DP
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sysuhu/article/details/54287684
版权

折棍子（Stick Breaking）过程

先定义一个变量序列 β1,β2,...,βi,... ，其中， βi∼Beta(1,α)
根据 Beta 分布的性质， 0<βi<1,(i=1,2,...)
然后折棍子（Stick Breaking）过程就来了：
有一根长度为1的根子（Stick）
1)截取这根棍子长度为 β1 的一段，并令 π1 为这一段的长度 β1 ，且棍子剩下的长度为 L1=1−β1 ；
2)截取剩下棍子 L1 长度为 L1β2 的一段，并令

最低0.47元/天 解锁文章
sysuhu
关注
  • 6
    点赞
  • 踩
  • 36
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
专栏目录
Github 2024-06-21 开源项目日报 Top10
老孙正经胡说
06-21 1606
创建周期：354 天开发语言：TypeScript, JavaScript协议类型：MIT LicenseStar数量：7277 个Fork数量：1269 次关注人数：7277 人贡献人数：75 人Open Issues数量：61 个Github地址：https://github.com/danny-avila/LibreChat.git项目首页: https://docs.librechat.ai/
马尔可夫“折棍子”过程 Markovian Stick-breaking Process 简介
一个不愿透露姓名的博客
06-09 730
马尔可夫“折棍子”过程
狄利克雷混合模型/Stick- breaking模型/非参数先验分布-2021年12月18日
weixin_51879748的博客
12-20 574
[转]非参数Bayesian模型的学习基础
dianpeiqi0915的博客
04-08 159
非参数Bayesian模型的学习基础 非参数模型中，Dirichlet process是基础。Dirichlet process是Dirichlet分布的推广，而Dirichlet 分布是Beta分布的推广。理解Dirichlet过程，先从了解Beta分布开始。Beta分布有关两个随机变量，而Dirichlet分布关于多维变量的概率分布。 ...
sitck-breaking折棍法理解
qwezhaohaihong
09-15 600
狄利克雷过程（dirichlet process ）和分布
chinaliping的专栏
07-03 5068
狄利克雷过程（dirichlet process ）是目前变参数学习（non parameter）非常流行的一个理论，很多的工作都是基于这个理论来进行的，如HDP（hierarchical dirichlet process）。 下面我们谈谈dirichlet process的五种角度来理解它。 第一种：原始定义：假设存在在度量空间Θ上的分布H和一个参数α，如果
Dirichlet Process and Stick-Breaking（DP的Stick-breaking 构造）
qy20115549的博客
03-14 6312
目录Dirichlet Process简介 Stick-Breaking构造Dirichlet Process简介DP是一种非参数贝叶斯模型, 其优点是参数的个数和性质灵活可变, 可通过模型和数据来计算数目, 近年来它已成为机器学习和自然语言处理研究领域中的一个研究热点。举个例子，我们在使用聚类方法k-means时，需要指定k的值(聚成k个簇)；在使用LDA时需要指定主题的数目k，但通过DP过程这种
狄利克雷分布的三维实现和狄利克雷过程中的stick—breaking算法的实现
u_say2what的博客
11-25 1241
转载请标明作者 首先是狄利克雷分布的三维实现，由于没法保证下面的坐标值加起来唯一，所以我采用了抽样的方法，从dirchidirichlet~（1,1,1）中抽的三维图像的坐标值，我只去前两个作为我的x,y值，代码如下： import numpy as np import matplotlib.pyplot as plt from mpl_toolkits.mplot3d import Axe...
DPMM的理解、公式推导及抽样
qy20115549的博客
09-09 9048
DPMM学习的基础及相关论文学习DPMM(Dirichlet 过程混合模型)之前，首先要去理解DP过程及其三种构造方式，（1）Stick-breaking 构造，（2）Polya urn scheme 构造，（3）Chinese restaurant process 构造。这三种构造是学习DPMM及HDP，还有其他非参模型的基础工作。关于Stick-breaking 构造可以参考我的一篇博客：htt
分层Dirichlet过程（HDP）的理解
sysuhu的博客
01-12 7313
承接这几篇而来 《 由中餐馆过程（CRP）理解狄利克雷过程（DP）》 http://blog.csdn.net/sysuhu/article/details/53725696 《 从折棍子（Stick Breaking）模型到狄利克雷过程（DP）》 http://blog.csdn.net/sysuhu/article/details/54287684 《 关于Dirichlet过程混合模
【论文笔记7】Discovering Discrete Latent Topics with Neural Variational Inference (NVDM-GSM / NVDM)
NEU_XXQ的博客
05-15 1867
Discovering Discrete Latent Topics with Neural Variational Inference 使用神经变分推理发现潜在的主题 提出了著名的NVDM-GSM/GSB/RSB模型 论文简介 题目：Discovering Discrete Latent Topics with Neural Variational Inference 作者：Yishu Miao 1 Edward Grefenstette 2 Phil Blunsom 1 2 作者单位：Oxford、
DPMM_jupyter_狄利克雷_狄利克雷混合_狄利克雷过程混合模型_clubxdf_DPMM_
10-03
使用狄利克雷过程混合模型（Dirichlet Process Mixture Model）拟合一维和二维的概率分布
variational-dpgmm:变分狄利克雷过程高斯混合模型
06-27
具有高斯混合分量的狄利克雷过程混合模型的变分推理。 基于以下论文： Blei, DM, 和 Jordan, MI (2006)。 Dirichlet 过程混合物的变分推断。 贝叶斯分析，1（1），121-143。
狄利克雷过程混合模型、扩展模型及应用PDF
05-07
狄利克雷过程混合模型的扩展模型包括层次狄利克雷过程、嵌套狄利克雷过程、关联狄利克雷过程、矩阵截棍过程、核截棍过程等。这些扩展模型可以应用于不同的场景下，例如机器学习、生物信息学等领域。 狄利克雷过程...
一种使用狄利克雷过程混合模型及其内核的文档挖掘新方法-研究论文
06-10
在机器学习和数据挖掘任务中，聚类被视为最关键的方法之一。... 在本文中，我们提出了一种使用 Dirichlet 过程混合模型进行文档聚类的新方法。 我们采用了印​​度 Dhobi 系统并使用 R 编程分析了他/她的工作风格。
狄利克雷分布
05-15
介绍狄利克雷分布，狄利克雷过程，混合分布等知识
狄利克雷过程（dirichlet process ）的五种理解
热门推荐
Xianling Mao的专栏
03-11 8万+
狄利克雷过程（dirichlet process ）是目前变参数学习（non parameter）非常流行的一个理论，很多的工作都是基于这个理论来进行的，如HDP（hierarchical dirichlet process）。 下面我们谈谈dirichlet process的五种角度来理解它。 第一种：原始定义：假设存在在度量空间\Theta上的分布H和一个参数\alpha，如果对于度量空间
非参数贝叶斯模型、Dirichlet Process，Stick-Breaking
上帝是个娘们的博客
01-14 3860
非参数贝叶斯模型 资料： 非参数贝叶斯模型概述 如何简单易懂地理解贝叶斯非参数模型？ 为了讲清楚什么是非参数贝叶斯模型，先看看下面几个概念： 参数模型 参数模型就是知道总体（随机变量）的分布，但是不知道这个分布的参数，比如知道x服从参数为p的二项分布，因此我们得到x的样本后，要反推回p到底是什么。求解参数模型的常用方法比如最大似然估计（MLE），最大后验估计（MAP）。在参数模型中，常用的已知分布...
机器学习笔记之狄利克雷过程(三)随机测度的生成过程(折棍子过程)
静静的学习就好
03-02 904
上一节使用公式推导的方式介绍了狄利克雷过程中标量参数α的极端取值对于生成的随机测度离散程度的影响。本节从随机测度的生成角度对标量参数α与离散程度的关系进行描述。
狄利克雷回归预测模型
最新发布
09-06
狄利克雷回归（Dirichlet Regression）是一种用于多元分类问题的预测模型。它基于狄利克雷分布（Dirichlet Distribution）来建模类别分布的不确定性。 在狄利克雷回归中，每个实例被分为多个类别，而每个类别都有一个权重。这些权重服从狄利克雷分布，用于表示每个类别在整体数据集中的相对频率。通过最大似然估计或贝叶斯推断等方法，可以根据训练数据估计出这些权重的值。 在预测阶段，狄利克雷回归可以根据输入特征来预测每个类别的概率或权重。通常，使用 softmax 函数将权重转化为概率分布，以便进行分类预测。 狄利克雷回归模型在文本分类、推荐系统、广告点击率预测等领域具有广泛应用。它能够处理多分类问题，并且通过建模类别之间的相关性，可以更好地捕捉类别分布的结构。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值