本篇开始,逐一介绍一些概率编程相关内容。首先介绍贝叶斯网的相关基础知识和应用。
本篇导读:
本篇主要介绍了贝叶斯定理,贝叶斯网以及相关应用:
- 概率的解释
- 贝叶斯定理
- 贝叶斯网
- 贝叶斯网的构造
- 贝叶斯网的应用
- 动态贝叶斯网
概率的解释
首先介绍一下贝叶斯引论中概率的解释:
这里主要介绍主要的概率的三种解释:
古典解释:P(A) = 事件A包含的样本数/样本空间的总样本数= m/n 。
前提条件等可能性,这个条件在实际应用中很难满足,应用范围有限。
频率解释:概率近似等于频率。符合大数定律。
按照频率解释,概率只有当试验可以在同等条件下无限次重复时才有意义。然而,在实际应用中人们往往要研究一些不可能重复的事件发生的概率,例如竞选总统和体育比赛的结果。
频率解释对这些一次性事件无法处理。
主观解释:主观解释又称贝叶斯解释,它认为概率即合理信度,反映的是个体的知识状态和主观信念。在这种意义下的概率称为主观概率。
相对于频率解释,主观解释的长处是它允许对一次性事件也进行概率评估。
贝叶斯网所依赖的一个核心就是条件独立,而概率的主观解释为直观理解条件概率和条件独立提供了一个自然的角度。
贝叶斯定理
先验概率和后验概率这两个概念是相对于某组证据而言的,设H和E为两个随机变量,H=h为某一假设,E=e为一组证据。在考虑证据E=e之前,对事件H=h的概率估计P(H=h)称为先验概率。而在考虑证据之后,对H=h的概率估计P(H=h|E=e)称为后验概率。贝叶斯定理描述了先验概率和后验概率之间的关系:
P(H=h|E=e)=P(H