连续变量的全概率和贝叶斯公式_人工智能导论——不确定性,概率推理和贝叶斯网络(一)...

不确定性

• 能力
• 无知：
  • 对问题本身的无知
  • 对理论知识的匮乏
• 系统性能误差：在机器学习中称为“噪声”
• 我们应该接受这种不确定性，在必要时候会利用它
• 对不确定建模的时候，我们会使用：逻辑，模糊逻辑，概率

概率和统计

• 概率是纯数学问题，一定有唯一解
• 统计不是纯数学问题，它的结论是多样性的
• 概率空间：所有可能结果的集合Ω
• 事件：概率空间Ω的子集
• 概率公理：定义了概率函数P：Ω—>[0，1]
  • 非负性
  • 归一性
  • 可加性
• 概率推理：不仅仅用公理，还会用一些定理(推理的中间结果)
• 分治的思想：将全联合概率分布拆分为若干小的条件分布或者无条件分布
• 在解决问题的过程中，我们可以先作独立性假设，该假设来自领域知识以及问题的复杂性；通过独立性假设来让问题简单化
• 先验独立性和条件独立性
  • 先验独立性：P(X,Y) = P(X)*P(Y)
  • 条件独立性：P(X,Y|Z) = P(X|Z)*P(Y|Z)或P(X|Y,Z) = P(X|Z)
  • 补充：条件独立性比独立性更加常见

概率推理

• 例子&#x