【非参数贝叶斯学习系列】Dirichlet distribution学习笔记

最新推荐文章于 2024-12-03 16:02:17 发布
原创 最新推荐文章于 2024-12-03 16:02:17 发布 · 5.9k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了 Dirichlet 分布及其在非参数贝叶斯估计中的应用，强调它是 Dirichlet 过程的基础，并指出该分布与 Beta 分布的关系及其共轭性质。

Dirichlet distribution是一个很重要 的分布，其是Dirichlet process 存在的基础，DP本身是得出非参贝叶斯估计中的求得先验分布的重要方法。这个分布本身其实是Beta分布在多元时的情况，其共轭为多项分布(对应的 Beta的共轭是二项分布)其实我对其中还是有些不是很明白的地方。希望能够有高手指正

sweetrryy
关注
非参数贝叶斯模型概述
workerwu的专栏
10-31 1万+
看这个模型很久了，可能一直深入的不够，现把自己的一点愚见不断的贴上来，走过路过的，欢迎意见或建议，不甚感激。    贝叶斯非参数模型是一种定义在无限维参数空间上的贝叶斯模型。顾名思义，也就是非参数模型的大小可以随着模型内数据的增大或减小而自适应于模型的变化，有多少个数据，我可以根据数据选择参数，来对数据建模（这一定义的直观解释参考PRML figure 2.5）。正如天下没有免费的午餐一样，
概率图模型基础 - 贝叶斯网络参数学习（贝叶斯估计+碎权更新法）
Snoopy_Yuan技术部落格
03-26 1万+
贝叶斯网络是一种性能优秀的不确定推理方法。本文考虑整合专家知识，在数据驱动的大思路下进行贝叶斯网络的参数学习。通过分析贝叶斯估计的实现过程来给出完整数据样本下的参数学习方法，同时引入碎权更新法来应对数据缺失的挑战。
Bayesian Nonparametric, 非参数贝叶斯模型
04-03
Bayesian Nonparametric, 非参数贝叶斯模型
Dirichlet Distribution
deye1979的专栏
12-09 248
Beta分布： 二项式分布（Binomial distribution）： 多项式分布： Beta分布： Beta分布是二项式分布的共轭先验（conjugate prior） Dirichlet Distribution: 共轭先验可以使得先验分布和后验分布的形式相同 如果先...
贝叶斯学习1
weixin_33962923的博客
05-26 223
一、什么是贝叶斯推断 贝叶斯推断（Bayesian inference）是一种统计学方法，用来估计统计量的某种性质。 它是贝叶斯定理（Bayes' theorem）的应用。英国数学家托马斯·贝叶斯（Thomas Bayes）在1763年发表的一篇论文中，首先提出了这个定理。 贝叶斯推断与其他统计学推断方法截然不同。它建立在主观判断的基础上，也就是说，你可以不需要客观证据，先估计一个值，然...
机器学习的数学基础（1）--Dirichlet分布
weixin_30394333的博客
04-23 1141
这一系列（机器学习的数学基础）主要包括目前学习过程中回过头复习的基础数学知识的总结。 基础知识：conjugate priors共轭先验 共轭先验是指这样一种概率密度：它使得后验概率的密度函数与先验概率的密度函数具有相同的函数形式。它极大地简化了贝叶斯分析。 如何解释这句话。由于 P(u|D) = p(D|u)p(u)/p(D) （1.0式） 其中D是...
MIT 6.S191: Evidential Deep Learning学习笔记
Rad1ant_up的博客
12-15 6459
MIT公开课——Evidential Deep Learning
机器学习周志华学习笔记-第14章＜概率图模型＞
最新发布
ydl1128的博客
12-03 1474
选择一个参数化的概率分布。
西瓜书笔记7:贝叶斯分类器
越开源越幸运
07-09 1800
相关概率知识 贝叶斯-全概率公式 先验概率、后验概率、似然概率 7.1 贝叶斯决策论 7.2 极大似然估计 极大似然估计公式 均值方差估计公式推导 概率知识复习 高斯分布 最大似然估计 7.3 朴素贝叶斯分类器 朴素贝叶斯分类器的概念 条件概率估计方法 拉普拉斯修正 7.4半朴素贝叶斯分类器 ODE基本思想 SPODE TAN AODE 7.5 贝叶斯网 7.5.1 结构 三变量典型依赖关系 有向分离 7.5.2 学习 结构学习 参数学习 7.5.3 推断
贝叶斯学习
11-09
贝叶斯学习的文档，作者讲述非常详细，内容非常全面，包括理论和大量实例
机器学习笔记之狄利克雷过程(四)从概率图角度认识狄利克雷过程
静静的学习就好
03-06 972
上一节从随机测度G(i)生成过程的角度介绍了标量参数α与G(i)离散程度之间的关联关系。本节将从概率图结构的角度认识狄利克雷过程，并对G(i)的后验概率进行表示。
非参数贝叶斯模型、Dirichlet Process，Stick-Breaking
上帝是个娘们的博客
01-14 4659
非参数贝叶斯模型 资料： 非参数贝叶斯模型概述 如何简单易懂地理解贝叶斯非参数模型？ 为了讲清楚什么是非参数贝叶斯模型，先看看下面几个概念： 参数模型 参数模型就是知道总体（随机变量）的分布，但是不知道这个分布的参数，比如知道x服从参数为p的二项分布，因此我们得到x的样本后，要反推回p到底是什么。求解参数模型的常用方法比如最大似然估计（MLE），最大后验估计（MAP）。在参数模型中，常用的已知分布...
hlda周边—非参数贝叶斯模型
li1san2shu3xue的专栏
03-17 1823
参考http://blog.csdn.net/workerwu/article/details/8131009  http://paley.mydiscussion.net/?p=331 贝叶斯非参数模型是一种定义在无限维参数空间上的贝叶斯模型。顾名思义，也就是非参数模型的大小可以随着模型内数据的增大或减小而自适应于模型的变化，有多少个数据，我可以根据数据选择参数，来决定模型的选择（这
【非参数贝叶斯学习系列】Beta Distribution 学习笔记
热门推荐
RR的专栏
05-21 2万+
这个是我学习过程的中的一些学习笔记，拿出来希望和大家共享，因为我也是初学者，希望大家能够一起来讨论共同提高这是关于Beta分布的一些东西，从我个人理解上来说我觉得Beta分布牛逼在你可以用两个参数任意控制其概率分布图像，同时可以控制众数的位置，这个是可以作为贝叶斯模型中的先验信息输入。
Dirichlet分布及其属性
weixin_33800463的博客
05-27 698
Dirichlet分布 在概率统计中，Dirichlet分布通常表示为，是一个以正实数的向量为参数的连续多变量概率分布族。这是Beta分布的多元推广。在贝叶斯统计中，狄氏分布很多情况下可作为先验分布，其实Dirichlet分布是类别分布和多项分布的共轭先验。 狄利克雷分布向无限维度的推广便是狄利克雷过程。 Categorical分布 分类分布（有时也被不确切地称为“离散分布”或“多项分布”...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值