深入理解什么是Beta分布

例一

Beta分布是一种描述概率的概率分布，这句话可能有些绕口，看一个例子：

以抛硬币为例，如果硬币是均匀的，并且正面朝上的概率记为p（p=0.5），那么每一次抛硬币都可以看做是一次伯努利实验，它服从0-1分布；

如果我们把硬币抛了n次，并且想要计算，在这n次当中，硬币正面朝上的次数的概率，那么它应该是服从 X~B(n,p) ，即二项分布。

二项分布可以看做是多次重复进行伯努利实验所得到的分布。

但是，如果假设我们事先并不知道硬币是否均匀，也就是说正面朝上的概率p是未知的，但显然 p 仍在[0,1] 区间之间，在这种情况下，比方说我们抛硬币10000次，其中正面朝上7000次，那么可以得到 p = 0.7，但是显然我们并不能肯定p就是0.7，如果我们再进行10000次抛硬币实验，可能正面朝上6000次，那么p就等于0.6了。那么，在多次重复进行二项分布的实验中，我们想要知道p的所有可能取值的概率，这就是一个Beta分布。（因为p就是描述正面朝上的概率，而Beta分布描述的是p的概率，因此称Beta分布可以看做是一个概率的概率分布）

正如二项分布可以看做是重复进行伯努利实验所得到的分布，Beta分布可以看做是重复进行二项分布所得到的分布。

通过例一，你可能已经对Beta分布有了一个直观的了解，接下来看例二。

例二

在进行例二之前，我们先引入Beta分布，一般来说，我们可以将Beta分布记为Beta(a,b)，其中a是成功的次数，b是失败的次数。

同时，我们需要知道一些概念，在贝叶斯公式中，有：

这里的 θ 是未知参数，data是样本数据，P(θ|data)被称为后验分布，P(data|θ)被称为似然函数，P(θ) 被称为先验分布，作为分母的P(data)因为不涉及到θ，因此可以被视为常数，不去考虑。

暂时知道这些就可以了。

仍以抛硬币为例，假设现在是在进行一场比赛，以抛硬币得到正面朝上的次数最多的人获胜。现有甲、乙两个人参赛。

先验分布：

在比赛开始之前，我们假设对硬币朝上的概率一无所知，一无所知就意味着任何概率都是等可能的，Beta(1,1)可以表示这样的分布：

甲选手比较正直，他使用的可能是均匀的硬币，即得到正面或者反面的概率是一样的，我们可以用Beta(5,5)来表示这样的分布：

这里纵轴的值先不用去理会，我们看横轴，可以看到p=0.5的概率最大，因为甲选手使用的是均匀的硬币。

乙选手善于使诈，他可能使用了作弊的硬币，也就是说每抛一次硬币几乎都会得到正面朝上的结果，我们用Beta(5,1)来表示这样的分布：

后验分布：

用Beta分布来模拟硬币的先验分布后，通过贝叶斯估计，得到的后验分布依然是Beta分布。

我们假设甲乙两选手在比赛中各自抛了3次硬币，甲选手三次均得到正面朝上，用Beta分布来表示即：

可以看到图像的中心右移了，尽管作弊可能性有所增加，但总体还是公平参赛的可能性大。

乙选手抛掷三次硬币同样得到三次正面朝上，那么用Beta分布表示即：

右移的更加厉害，几乎已经可以确认乙选手作弊。

通过这个例子，相信你对Beta分布会有一个更加深刻的认知。

Beta分布的公式推导

关于伽马函数

关于Beta函数与伽马函数之间的关系式的那个推导：

Beta分布的性质：

共轭分布与共轭先验分布：

Beta分布是二项分布的共轭先验分布。

参考：

如何通俗理解 beta 分布？ - 马同学的回答 - 知乎

暴力推导 Beta 函数与 Gamma 函数关系式