10.贝叶斯理论

10.3 概率基础

• 机器学习的成功需要模式—可重复性，即随机事件本身在长期试验过程中存在稳定性，如扔硬币
• 衡量模式的方法—概率论，“概率无非是把常识作用于计算”
• 机器学习问题随机性的来源——

1. 问题内在的不确定性
2. 信息不完全
3. 模型所考虑的特征有限
4. 模型本身永远脱离真实

10.4 概率与事件

用数学语言来描述概率——

1. 试验
2. 事件
3. 概率空间
4. 概率运算

条件概率公式：

10.5～10.7 贝叶斯推理

贝叶斯公式

• 先验概率和后验概率，根据数据更新对事件可能性的估计，贝叶斯公式就是大数据背后的神秘公式
• 贝叶斯计算的是主观概率（先验），仅代表对事物可能性的估算。因此当新的信息介入时，可以相应更新概率

10.8 辛普森杀妻案

• 我们可以用数据更新自己的先验概率
  一般情况下，0<P（先验）<1
  P(先验）=0或1时，即为迷信
• 条件概率、先验概率和后验概率组成了贝叶斯三要素

10.9 贝叶斯推理深入

• 事件为连续变量时，使用分布函数来表达