【Learning Notes】Gumbel 分布及应用浅析

最新推荐文章于 2025-03-26 15:41:03 发布
最新推荐文章于 2025-03-26 15:41:03 发布
阅读量4.2w 收藏 126
点赞数 30
分类专栏： 原创 机器学习 概率统计
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JackyTintin/article/details/79364490
版权
本文介绍了Gumbel分布的物理意义、概率密度函数和采样方法，包括基于softmax和gumbel的采样。接着详细阐述了Gumbel-Softmax如何实现离散多项分布的可微采样，通过调整温度参数逐步逼近真实的一热分布。在讨论部分，指出了gumbel-softmax在参数训练和采样任务中的独特优势。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1. 分布的形式化

物理意义

Gumbel 分布是一种极值型分布。举例而言，假设每次测量心率值为一个随机变量（服从某种指数族分布，如正态分布），每天测量10次心率并取最大的一个心率值作为当天的心率测量值。显然，每天纪录的心率值也是一个随机变量，并且它的概率分布即为 Gumbel 分布。

概率密度函数（PDF）

Gumbel 分布的 PDF 如下：

f(x;μ,β)=e−z−e−z, z=x−μβ f ( x ; μ , β ) = e − z − e − z ,   z = x − μ β

公式中， μ μ 是位置系数（Gumbel 分布的众数是 μ μ ）， β β 是尺度系数

最低0.47元/天 解锁文章
Gumbel 分布介绍(耿贝尔分布)
weixin_46713695的博客
09-24 1万+
耿贝尔分布
认识一些分布函数-Gumbel分布
qq_25018077的博客
06-15 794
EVD），用于建模极大值和极小值，也就是所谓的EVD Type I分布。例如，EVD Type I 被用来预测地震、洪水和其他自然灾害，以及在风险管理中建模操作风险和那些在一定年龄后迅速磨损的产品的寿命。其中，μ是位置参数，β是尺度参数。当μ = 0 且 β = 1 时，称为标准古贝尔分布。其中，μ是位置参数，β是尺度参数。当μ = 0且β = 1时，称为标准古贝尔分布。Gumbel分布（也称为古贝尔型）是一种常用的非对称极值分布（
卑微且强大的Gumbel分布
你礼貌吗
03-23 6199
GAN从诞生开始，广泛应用于计算机视觉领域，并取得了巨大地成功，相比而言，GAN在NLP领域的应用还是相对较少，这是因为GAN对离散型数据序列的处理显得无能为力，从离散分布中采样的数据时不可导的，在使用梯度下降算法时，无法正常更新模型中参数，Gumbel-softmax分布成功地使GAN摆脱了这个困境，为GAN在NLP领域地发展奠定了基础。文本数据是离散数据，可以使用one-hot编码来进行表示，可对softmax函数的输出（其输出接近于one-hot编码）进行采样，选取最大概率对应的词作为生成词，但是，这
Gumbel 噪声与 Gumbel-Softmax 松弛：从离散到连续的桥梁
最新发布
阿正的梦工坊
03-26 770
Gumbel 噪声和 Gumbel-Softmax 松弛是深度学习中处理离散变量的强大工具。Gumbel 噪声利用极值分布的特性模拟最大值选择，而 Gumbel-Softmax 通过平滑化离散采样，解决了不可导问题。它们在 VAE、强化学习和多模态生成（如文本到图像）中有着广泛应用。
生存分析——KM生存曲线、hazard比例、PH假定检验、非比例风险模型（分层/时变/参数模型）（二）
素质云笔记
07-22 2万+
文章目录1 数据类型1.1 删失数据1.1.1 右删失1.1.2 左删失1.1.3 区间删失1.2 完全数据（Complete data）2 生存分析几个核心概念2.1 生存概率2.2 风险概率2.3 生存/风险函数 两者之间关系2.4 其他生存时间相关概念3 Kaplan-Meier 生存概率估计3.1 寿命表（ life table）3.2 Kaplan–Meier 方法3.3 KM组别差异的指标一：中位生存时间3.4 KM组别差异的指标二：Logrank /Breslow4 Cox 比例风险回归模型
Gumble Distribution耿贝尔分布
symoriaty的博客
07-17 1万+
耿贝尔分布是样本最值的分布 摘选自一些网页的资料 度娘百科： 耿贝尔分布是根据极值定理导出，由费雪(R·A·Fisher ) 和蒂培特(L·H·C·Tippe -t t) 于1928 年发现各个样本的最大值分布将趋于三种极限形式种的一种，具体由型式参数K确定，当K=0的时候也就是耿贝尔分布，水文方面主要用第I 型渐近极值分布，是耿贝尔在1941年将此分布应用于洪水频率分析工作，所以也称...
Gumbel distribution
MTandHJ的博客
05-26 1980
文章目录概主要内容定义Gumbel-Max trickGumbel trick 用于归一化代码 概 感觉这个分布的含义很有用啊, 能预测‘最大’, 也就是自然灾害, 太牛了. 主要内容 定义 [Gumbel distribution-wiki](Gumbel distribution - Wikipedia) 其分布函数和概率密度函数分别为: F(x;μ,β)=e−e−(x−μ)/β,f(x;μ,β)=1βe−[e−(x−μ)/β+(x−μ)/β] F(x; \mu, \beta) = e^{-e^{-(x
Gumbel 和统计：这是gumbel 和证明分布的解决方案。 为你-matlab开发
05-30
Gumbel Max Trick是Gumbel分布在机器学习，尤其是强化学习和组合优化中的一个重要应用。它提供了一种近似最大似然选择的方法，用于解决多模态分布的argmax问题。基本思想是通过添加Gumbel噪声到每个选择项的原始得分...
Gumbel极值分布代码及AR风速模拟.rar_AR_Gumbel分布_python极值分布_极值_极值风速
07-14
Gumbel极值分布代码，在python中实现Gumbel的极值分布。AR风速模拟程序。
Gumbel分布的基本风压计算与分析 (2012年)
04-24
统计了中国159个代表性城市在1951―2008年的历年最大风速值,采用Gumbel分布进行统计分析并对其参数进行估算。用矩法和耿贝尔法分别计算出重现期为10、50、100 a的基本风压值,并采用柯尔莫哥洛夫检验法进行检验,最后...
经管博士科研必备【5】Gumbel分布
qq_25018077的博客
08-27 1243
在推导MNL模型(Multinomial Logit)、NL(Nested Logit)模型前，我们需要明白Gumbel分布。Gumbel是指的是极值I型分布，其中极值I型分布有两种形式。一个是基于最小的极值，另一个是基于最大的极值。用 F(x) 表示随机变量 X 的分布函数，即：Gumbel分布分为两种形式，一种是最大值形式，一种是最小值形式；
gumbel-mgf:Gumbel分布矩产生函数（MGF）
05-17
瞬间产生功能 分布矩生成函数（MGF）。 随机变量的为 其中mu是位置参数， beta是比例参数。 安装 $ npm install distributions-gumbel-mgf 要在浏览器中使用，请使用 。 用法 var mgf = require ( 'distributions-gumbel-mgf' ) ; mgf（t [，选项]） 计算分布的（MGF）。 t可以是 ， array ，typed array或matrix 。 var matrix = require ( 'dstructs-matrix' ) , mat , out , t , i ; out = mgf ( 1 ) ; // returns ~1 out = mgf ( - 1 ) ; // returns +Infinity t = [ 0 , 0.5 , 1 , 1.5 , 2 ,
Gumbel 分布及应用浅析
Allure Love的博客
05-26 1877
https://blog.csdn.net/jackytintin/article/details/79364490 https://zhuanlan.zhihu.com/p/166632315
从“年最大风速”到“百年一遇”——初探 Gumbel 极值分布
weixin_46713695的博客
01-19 511
从“年最大风速”到“百年一遇”——初探Gumbel极值分布
风险预测之-Gumbel distribution(耿贝尔分布)
qq_23174517的博客
02-25 4471
数据资源： 雾霾数据集：https://sites.google.com/view/reside-dehaze-datasets
Gumble-Softmx Trick和Gumbel分布
Nicola.Zhang
06-24 528
原文链接 https://www.cnblogs.com/initial-h/p/9468974.html
四.用matlab生成想要的分布数据——Gumbel分布
weixin_47693142的博客
07-06 5591
Gumbel分布，Matlab
Gumbel
lzkzls的博客
10-16 837
参考“https://www.cnblogs.com/initial-h/p/9468974.html”和“https://www.zhihu.com/question/62631725/answer/201338234”和“https://zhuanlan.zhihu.com/p/62478599” Gumbel采样：Gumbel Trick 是一种从离散分布取样的方法，它的形式可以允许我们定...
Gumbel-Softmax Trick和Gumbel分布 附VAE讲解
Beryl的博客
10-26 3167
转自https://www.cnblogs.com/initial-h/p/9468974.html 写的非常好，思路清晰，顺带连VAE trick也讲了 之前看MADDPG论文的时候，作者提到在离散的信息交流环境中，使用了Gumbel-Softmax estimator。于是去搜了一下，发现该技巧应用甚广，如深度学习中的各种GAN、强化学习中的A2C和MADDPG算法等等。只要涉及在离散分布上运用重参数技巧时(re-parameterization)，都可以试试Gumbel-Softmax Trick。
Matlab中极值I型分布(Gumbel分布)的evcdf和evpdf及evinv函数
热门推荐
Hello, world.
09-11 4万+
此文回答 MATLAB中，极值I型分布(Gumbel)的函数evpdf和evcdf要如何使用？ 进行概率运算有用到最大值型的极值I型分布（Gumbel分布），此分布函数表达式相当复杂，如下所示 所以回答前面说的问题，mu和sigma是随机变量的均值和标准差，但并不是Matlab中的参数，Matlab里参数是分布函数和密度函数
评论 11
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值