beta分布_Beta 分布的物理意义

Beta 分布的物理意义

假设某个硬币，在toss之后，可以很稳定的以

的概率出现head，以

的概率出现tail。我们称head出现为成功(Win)，tail出现为失败(Lose)。我们用

来表示对一连串实验的观测结果，

包括了三个要素：

次实验后，成功

次，失败

次。显然我们有

。那么，在我们知道

之后，我们对于

的值又知道多少呢？ 这个信息可以用

的条件概率分布来表示，其数学表达式为

那么显然，在

已知的情况下，

发生的概率服从二项分布，其pmf(probability mass functions)为

而

的边缘pmf需要对联合概率分布

关于

求积分，即：

我们对

没有任何先验知识。那也就是意味着，我们不知道

的取值更倾向于哪些数（概率或概率密度大），或更不倾向于哪些数（概率或概率密度小）；换句话说，在没有先验知识的情况下，我们认为

在其可能取值范围内取任何值都是等概率的，即

将(2)-(4)代入(1)后，我们有：

公式(5)中，等号右边的分式结构的分子

刚好是beta函数，也被称为B函数。且有如下性质：

将(6)带入(5)，我们有：

从(7)的表达式中，我们已经可以看出这是一个beta分布了。进一步来说，如果令

，

， 那么有

这是一个标准的beta分布。因此我们可以看出，进行

次试验，成功

次， 失败

次，那么

服从一个标准的参数为

的beta分布。

而且beta分布还是伯努利分布以及二项分布的一个共轭先验（conjugate prior）分布。无论是数学形式上还是物理意义上都有着很奇妙的性质。

下面的公式(5Full)是正文中公式(5)的完整推导。

参考资料

• wikipedia Gamma function
• wikipedia Beta function
• Larry Wasserman, All of Statistics: A Concise Course in Statistical Inference, ch11