先验概率 后验概率 条件概率 概率分布 贝叶斯公式

根据知乎作者史海波及其它资料整理：

1.【对上帝来说，一切都是确定的，因此概率作为一门学问存在，正好证明了人类的无知。好在人类还是足够聪明的，我们并没有因为事物是随机的而束手无措，我们根据事物的可能性来决定我们的行为。比如，某个人抢银行之前，一定反反复复考虑过各种可能性。如果人们要等到一切都确定后再做，那么你可能什么都做不了，因为几乎一切都是随机的。

一个事情有N种发生的可能性，我们不能确信哪种会发生，是因为我们不能控制结果的发生，影响结果的许多因素不在我们的支配范围之内，这些因素影响结果的机理或者我们不知道，或者太复杂以至于超出了我们大脑或电脑的运算能力。比如：我们不确定掷硬币得到正面或反面，是因为我们的能力不足以用一些物理方程来求解这个结果。再比如：你不能断定你期末能考88分，因为出题、阅卷的不是你。

过去发生的事情虽然事实上是确定的，但因为我们的无知，它成了随机的。我们在某个地方挖出了一块瓷器的碎片，它可能是孔子的夜壶，可能是秦始皇的餐具，也可能是林校长家的破茶壶从他家到垃圾站又被埋在了这个地方。

因此：概率在实质上就是无知，而不是说事物本身是随机的。（非重点，主要强调概率是一种认识具有“确定意义”的世界的工具问题）】

2.

先验概率及后验概率解释一：

你拿着一把锄头在操场上乱挖，忽然发现一个暗室。里面是什么情景呢？应该说一切皆有可能。你根据你的大脑已储存的东西能做出一些可能性判断，有些可能性高，如“里面是黑的”。有些可能性低：如发现“本拉登在这里打麻将”。有无限的可能性，也可能藏着一个杀人犯，也可能有毒蛇，……。你对每种场景的可能性认识就是概率分布P(Ai)（就是《概率论》中的概率分布函数F(X)，只不过当时是用在，F（x<2）表示x取小于2的（场景下的）概率，或F(2<=X<=6)=F(6)-F(2)这种在这个范围内的概率，这是一种分布。当然，分布在随即变量为连续的情况下的F(X)是随机变量X概率密度对X乘积的在不同区域内的（不同场景下的）积分，这也是一种概率密度）。这样的概率就是先验概率。

你是否能听到狗叫也是随机的，你对此的概率判断P(y), (y表示会听到狗叫）也是先验判断。

如果接下来你确实听见了狗叫，你对洞中情形虽然也不确定，但肯定会有新的判断：“本拉登边吃狗肉边打麻将”、“几个狗在打麻将”、“一只狗想念另一只狗，在这里放录音”……。这些场景先前当然你也想到过（是某个Ai之一），不过现在“听到狗叫”后，你的概率判断发生了变化，你现在的判断就叫后验概率P(Ai|y)。

先验概率及后验概率解释二：

先验概率是指根据以往经验和分析得到的概率,如全概率公式,它往往作为”由因求果”问题中的”因”出现.

例子: 你来到一个山洞,这个山洞里可能有熊也可能没有熊, 记你觉得山洞有熊的为事件Y. 然后,你也许听到山洞里传来熊的吼声, 记听到熊吼声为事件X. 你一开始认为山洞有熊的概率是P(Y); 听到熊的吼声之后,你认为有熊的概率是P(Y|X).

很明显,在这个例子里面P(Y|X)>P(Y), P(Y)就是先验概率,P(Y|X)是后验概率.

(看完这些解释，不难理解下面的话：

当根据经验及有关材料推测出主观概率（先验概率）后,对其是否准确没有充分把握时,可采用概率论中的贝叶斯公式（ [ P(X|Y)=P(Y)P(Y|X)/P(X) ],后验概率在实际中一般是很难直接计算出来的，相反先验概率就容易多了。因此一般会利用先验概率来计算后验概率,例子见下面附例）进行修正,修正前的概率称为先验概率,修正后的概率称为后验概率（利用后验概率再进行风险分析，最后一句感觉未来有用，不做可能影响本次的理解了）)

3.后验概率和条件概率的关系

条件概率：在某条件下事件发生的概率。
后验概率：已知原分布，在实际发生某事件时,是原先某情况的可能性。
后验概率在某些情况下是条件概率的一种

附例：

假设一个学校里有60%男生和40%女生。女生穿裤子的人数和穿裙子的人数相等，所有男生穿裤子。一个人在远处随机看到了一个穿裤子的学生。那么这个学生是女生的概率是多少？

使用 贝叶斯定理，事件A是看到女生，事件B是看到一个穿裤子的学生。我们所要计算的是P(A|B)。

P(A)是忽略其它因素，看到女生的概率，在这里是40%

P(A')是忽略其它因素，看到不是女生（即看到男生）的概率，在这里是60%

P(B|A)是女生穿裤子的概率，在这里是50%

P(B|A')是男生穿裤子的概率，在这里是100%

P(B)是忽略其它因素，学生穿裤子的概率，P( B) = P( B| A)P( A) + P( B| A')P( A')，在这里是0.5×0.4 + 1×0.6 = 0.8.

根据贝叶斯定理，我们计算出后验概率P(A|B)

P(A|B)=P(B|A)*P(A)/P(B)=0.25

可见，后验概率实际上就是条件概率。