笔记 | gamma分布

gamma分布简介

大写：Γ

小写：γ

Gamma 函数在概率统计中频繁现身，众多的统计分布，包括常见的统计学三大分布(t 分布，χ2 分布，F分布)、Beta分布、 Dirichlet 分布的密度公式中都有 Gamma 函数的身影；当然发生最直接联系的概率分布是直接由 Gamma 函数变换得到的 Gamma 分布。

α 称为 shape parameter, 主要决定了分布曲线的形状;

β 称为rate parameter，主要决定曲线有多陡。

θ=1/β称为scale parameter，同样决定曲线有多陡。

固定α =4,可以看到随着θ参数的增加，x轴的scale在增加，其分布相对就越广。若放在同一个x轴上，增加θ将得到更平缓的曲线（相应地，y轴的scale减小）。

固定α=4,随着β参数的增加，x轴的scale在减小，其分布相对就越窄。若放在同一个x轴上，增加β将得到更陡的曲线（相应地，y轴的scale增加）。

最后，固定β=1,α改变，曲线的形态发生改变

gamma相关函数

这几个R中的函数d-/p-/q-/r-，把gamma换成binom就成了binomial分布相关的计算，换成norm就成了normal分布的计算。gamma的函数，你不一定能用上，但是norm相关的几个函数肯定是会用得到的。

# 概率密度函数值 pdf
# 算的是某一个点上的概率密度。
dgamma(x, shape, rate = 1, scale = 1/rate, log = FALSE)
# 概率分布函数值 cdf 累积概率
pgamma(q, shape, rate = 1, scale = 1/rate, lower.tail = TRUE,
       log.p = FALSE)
# 概率分位函数值
qgamma(p, shape, rate = 1, scale = 1/rate, lower.tail = TRUE,
       log.p = FALSE)
# 产生服从伽马分布的随机数
rgamma(n, shape, rate = 1, scale = 1/rate)

pdf和cdf

pgamma给定一个值计算累计概率

R: pgamma(5,10,1,lower.tail = T)

Matlab: gamcdf(5,10,1)

[1] 0.03182806

R: pgamma(5,10,1,lower.tail = F)

Matlab: gamcdf(5,10,1,'upper')

[1] 0.9681719

qgamma给定累计概率计算对应的值(相当于找cutoff)

R: qgamma(0.3,10, lower.tail=T)

Matlab: gaminv(0.3,10,1)

[1] 8.132928

R: qgamma(0.3,10, lower.tail=F)

Matlab: gaminv(0.7,10,1)

[1] 11.38727

gamma和inverse gamma

set.seed(1)
1/rgamma(n=1, shape=10,scale=1/2)
[1] 0.2608497


set.seed(1)
rinvgamma(n=1, shape=10,scale=2)
[1] 0.2608497

invser gamma分布就是gamma分布的倒数（reciprocal）。更准确的说如果x服从gamma(a,b)，则y=1/x服从inverse-gamma(a,1/b)。其实知道它们的关系是很重要的，因为有的时候用的不是方差，而是precision（方差的倒数）作为分布的参数。

什么是reciprocal

gamma分布的应用

gamma/inverse-gamma分布在Bayesian Inference中使用比较广泛。无论是empirical Bayes还是基于MCMC采样的后验分布计算，它主要作为非负实数的先验分布（比如方差）出现。在empricial Bayesian的计算中，gamma分布是正态似然函数的共轭先验，因此有关的后验分布可以不做MCMC，直接根据公式计算。

例如在方差未知的条件下，我们假设方差来自gamma分布。

下面的例子是方差和均值都未知的情况，假设总体的均值来自于Norm(μ0, σ0^2），总体的方差来自于gamma(α, β)。

后验分布为：

当然很多情况下是无法产生像上面一样的解，因此需要做MCMC采样，gamma/inverse-gamma分布也经常作为未知参数（比如，方差）的先验分布。

（附赠一份先验选择速查表）

btw, SPM默认的HRF就是用两个gamma函数生成的

见spm_hrf.m和spm_Gpdf.m

—END—

Recap:

• gamma分布的参数及作用
  

• dgamma/qgamma/pgamma/rgamma函数的用法

• gamma分布的应用