机器学习之数学基础(五)：贝叶斯定理 Bayes Theorem

最新推荐文章于 2024-06-30 09:47:15 发布

天狼啸月1990

最新推荐文章于 2024-06-30 09:47:15 发布

阅读量576

点赞数 5

分类专栏：机器学习～machine learning 文章标签：机器学习人工智能

本文链接：https://blog.csdn.net/qq_33419476/article/details/139379622

版权

机器学习～machine learning 专栏收录该内容

14 篇文章 1 订阅

订阅专栏

1.4.1 Bayes Formulation - 1

1.4.2 Bayes Formulation - 2

1.5 Bayes 全概率公式

参考

1. Bayes Theorem

1.1 先验概率和后验概率

先验概率：根据已有的概率分布，推测未发生事件的概率。e.g. 已有天气数据，推测明天是否下雨。
后验概率：根据已发生的事件事实 evidence，推测以前数据的概率分布。e.g. 以前的天气数据因为涂鸦损坏丢失了一部分，已知道现在天气下雨，推测以前天气数据的概率分布。
随机事件：是指随机试验中可能发生或不发生的结果。
样本空间：是指在一次随机试验中所有可能结果的集合，通常用S或 $\Omega$ 表示。每一个可能的结果称为样本点。

1.2 条件概率

$P(A|B)$ ，表示在B发生的条件下，A发生的概率。

$P(A|B) = \frac{P(A\cap B)}{P(B)}$

$P(B|A)$ ，表示在A发生的条件下，B发生的概率。

$P(B|A) = \frac{P(A\cap B)}{P(A)}$

1.3 联合概率

$P(A\cap B)$ ，表示事件A和B同时发生的概率。

$P(A\cap B) =P(A)P(B|A)$ ，“事件A发生概率 * 事件A发生的条件下，B发生的概率”。先写事件A发生概率，然后写乘以条件概率P(B|A)，比较好记忆。

$P(A\cap B) =P(B)P(A|B)$ ，“事件B发生概率 * 事件B发生的条件下，A发生的概率”。先写事件B发生概率，然后写乘以条件概率P(A|B)，比较好记忆。

=》贝叶斯定理

1.4 贝叶斯定理

1.4.1 Bayes Formulation - 1

H，表示先验概率 hypothesis
E，表示后验事实 evidence

$P(H|E) = \frac{P(H)P(E|H)}{P(E)}$

=》P(E)一般是指后验概率，它的概率计算很复杂，因为是已发生事实事件Evidence，需要对所有样本进行测试，才能得到事实概率！

1.4.2 Bayes Formulation - 2

用 $\bar{H}$ 表示不发生的概率， $P(\bar{H}) = 1 - P(H)$ ，P(E)可以分为两部分，一部分是E和H的交集，另一部分是E和 $\bar{H}$ 的交集。

$P(H|E) = \frac{P(H)P(E|H)}{P(H)P(E|H)+P(\bar{H})P(E|\bar{H})}$

1.5 Bayes 全概率公式

从二概率公式推广到多概率贝叶斯公式。

全概率公式：

$P(B) = P(A_1)P(B|A_1) + P(A_2)P(B|A_2) +...+P(A_n)P(B|A_n)$

贝叶斯全概率公式：

$P(A_i|B) = \frac{P(A_i)P(B|A_i)}{\sum_{j=1}^nP(A_j)P(B|A_j)} =\frac{P(A_i)P(B|A_i)}{P(A_1)P(B|A_1)+...+P(A_n)P(B|A_n)}$

参考

一文搞懂贝叶斯定理（原理篇） - 廖雪峰的官方网站

【数学】这可能是全网最易懂的贝叶斯公式讲解_贝叶斯公式系详解-CSDN博客

天狼啸月1990

关注

5
点赞
踩
11

收藏

觉得还不错? 一键收藏
打赏
0
评论
机器学习之数学基础(五)：贝叶斯定理 Bayes Theorem

因为是已发生事实事件Evidence，需要对所有样本进行测试，才能得到事实概率！，P(E)可以分为两部分，一部分是E和H的交集，另一部分是E和。事件A发生概率 * 事件A发生的条件下，B发生的概率。先写事件A发生概率，然后写乘以条件概率P(B|A)，事件B发生概率 * 事件B发生的条件下，A发生的概率。先写事件B发生概率，然后写乘以条件概率P(A|B)，随机事件：是指随机试验中可能发生或不发生的结果。P(E)一般是指后验概率，它的概率计算很复杂，从二概率公式推广到多概率贝叶斯公式。
复制链接

扫一扫