贝叶斯推断
简述:
一种统计学算法,用来估计统计量的某种性质。
它建立在转关判断的基础上,不需要客观证据,先估计一个值,然后根据实际结果不断修正。
贝叶斯定理
公式:
p(A|B) = P(B|A)P(A)P(B)
解释:
p(A|B) 是事件B发生的情况下,事件A发生的概率
推导:
P(A|B)P(B) = P(A⋂B)
p(A|B)P(B) = P(B|A)P(A)
P(A|B) = P(B|A)P(A)P(B)
全概率公式
公式:
P(A|B) = P(A)P(B|A)P(B)
解释:
p(A) 为先验概率 ,即在B事件未发生时,我们对A事件概率的一个判断 。P(A|B)称为“后验概率”,即在B事件发生之后,我们对A事件的重新评估。 P(B|A)P(B) 称为可能性函数,这是一个调整因子。
所以可得 : 后验概率 = 先验概率 × 调整因子
这就是贝叶斯推断的含义。我们先预估一个“先验概率”,然后加入实验结果,看这个实验到底是增强还是消弱了“先验概率”,由此得到更近事实的“后验概率” 若p(A|B)>P(A)即增强,反之则消弱。
推导:
P(B) = P(B⋂A) + P(B⋂A′)
P(B) = P(B|A)P(A) + P(B|A’)P(A’)
将上一节公式 p(A|B) = P(B|A)P(A)P(B) 带入得
P(B) = P(A|B)P(B) + P(B|A’)P(A’)
P(A|B)P(B) = P(B) - P(B|A’)P(A)
P(A|B)P(B) = P(B|A)P(A)
P(A|B) = P(A) P(B|A)P(B)