10.3 概率基础
- 机器学习的成功需要模式—可重复性,即随机事件本身在长期试验过程中存在稳定性,如扔硬币
- 衡量模式的方法—概率论,“概率无非是把常识作用于计算”
- 机器学习问题随机性的来源——
- 问题内在的不确定性
- 信息不完全
- 模型所考虑的特征有限
- 模型本身永远脱离真实
10.4 概率与事件
用数学语言来描述概率——
- 试验
- 事件
- 概率空间
- 概率运算
条件概率公式:
10.5~10.7 贝叶斯推理
贝叶斯公式
- 先验概率和后验概率,根据数据更新对事件可能性的估计,贝叶斯公式就是大数据背后的神秘公式
- 贝叶斯计算的是主观概率(先验),仅代表对事物可能性的估算。因此当新的信息介入时,可以相应更新概率
10.8 辛普森杀妻案
- 我们可以用数据更新自己的先验概率
一般情况下,0<P(先验)<1
P(先验)=0或1时,即为迷信 - 条件概率、先验概率和后验概率组成了贝叶斯三要素
10.9 贝叶斯推理深入
- 事件为连续变量时,使用分布函数来表达