贝叶斯推断

贝叶斯推断

简述：

一种统计学算法，用来估计统计量的某种性质。
它建立在转关判断的基础上，不需要客观证据，先估计一个值，然后根据实际结果不断修正。

贝叶斯定理

公式：

p(A|B) = $\frac{P(B|A)P(A)}{P(B)}$

解释：

p(A|B) 是事件B发生的情况下，事件A发生的概率

推导:

P(A|B)P(B) = $P(A \bigcap B)$

p(A|B)P(B) = P(B|A)P(A)

P(A|B) = $\frac{P(B|A)P(A)}{P(B)}$

全概率公式

公式：

P(A|B) = $P(A)\frac{P(B|A)}{P(B)}$

解释：

p(A) 为先验概率 ，即在B事件未发生时，我们对A事件概率的一个判断 。P(A|B)称为“后验概率”，即在B事件发生之后，我们对A事件的重新评估。$\frac{P(B|A)}{P(B)}$ 称为可能性函数，这是一个调整因子。

所以可得 ： 后验概率 = 先验概率$\times$调整因子

这就是贝叶斯推断的含义。我们先预估一个“先验概率”，然后加入实验结果，看这个实验到底是增强还是消弱了“先验概率”，由此得到更近事实的“后验概率” 若p(A|B)>P(A)即增强，反之则消弱。

推导：

P(B) = $P(B \bigcap A)$ + $P(B \bigcap A')$

P(B) = P(B|A)P(A) + P(B|A’)P(A’)

将上一节公式 p(A|B) = $\frac{P(B|A)P(A)}{P(B)}$ 带入得

P(B) = P(A|B)P(B) + P(B|A’)P(A’)

P(A|B)P(B) = P(B) - P(B|A’)P(A)

P(A|B)P(B) = P(B|A)P(A)

P(A|B) = P(A)$\frac{P(B|A)}{P(B)}$