概率论--随机事件与概率--贝叶斯公式--随机变量

目录

随机事件与概率

概念

为什么要学习概率论

随机事件与随机事件概率

随机事件

随机事件概率

贝叶斯公式 

概念

条件概率

概率乘法公式

贝叶斯公式 

举个栗子

随机变量 

 随机变量的定义

随机变量的分类

离散型随机变量

连续型随机变量

---

随机事件与概率

概念

随机事件是指在一次试验中可能发生或者不发生的事件。例如，抛一枚硬币，正面朝上和反面朝上就是两个可能的随机事件。

概率是用来描述随机事件发生的可能性大小的数值。概率通常表示为一个介于0和1之间的数。0表示事件不可能发生，1表示事件一定会发生。例如，抛一枚公正硬币正面朝上的概率是0.5，反面朝上的概率也是0.5。

为什么要学习概率论

机器学习的很多算法设计都依赖于对数据的概率假设，如果不理解概率论的相关知识，

就无法get到这些算法的精髓

随机事件与随机事件概率

• 随机事件

在一定条件下可能发生也可能不发生的事件叫做随机事件，简称事件。例如，扔一次骰子，结果是5点；生男生女等等。一般使用大写字母（例如A、B）表示一个随机事件。

一定会发生的事件，称为必然事件

一定不会发生的事件，称为不可能事件

必然事件和不可能事件是两种特殊的随机事件

• 随机事件概率

每一个随机事件都关联有一个发生的概率，叫做随机事件概率，使用P表示，例如，A代表抛硬币正面朝上这个随机事件，则P(A)就代表这个随机事件的概率，显然，P(A)=0.5.

贝叶斯公式 

概念

贝叶斯公式（Bayes' theorem）是概率论中的一条基本定理，用于计算条件概率。它是以英国数学家托马斯·贝叶斯（Thomas Bayes）的名字命名的。

贝叶斯公式描述了在已知一些先验信息的情况下，通过新的观察或证据来更新我们对事件发生概率的估计。该公式可以表示为：

P(A|B) = (P(B|A) * P(A)) / P(B)

其中，P(A|B)表示在事件B已经发生的条件下，事件A发生的概率（后验概率）；P(B|A)表示在事件A已经发生的条件下，事件B发生的概率（似然）；P(A)和P(B)分别表示事件A和事件B发生的先验概率。

条件概率

对于任意两个事件A，B，其中P(B)>0,称

为已知事件B发生的条件下事件A发生的条件概率

举个栗子：

有5个乒乓球，其中3个新的两个旧的。每次取一个，无放回地取两次。记A={第一次取到新球}，B={第二次取到新球}。试求概率P(A),P(AB),P(B|A)

概率乘法公式

由条件概率的定义得：

对于任意的事件A，B，

• 若P(A) > 0，则P(AB) = P(A)P(B|A)
• 若P(B) > 0，则P(AB) = P(B)P(A|B)

注意

概率乘法公式可以推广到有限多个事件的情形:

设A~1~，A~2~，...，A~n~ 满足 P(A~1~A~2~...A~n-1~) >0，

则P(A~1~A~2~...A~n~) = P(A~1~)P(A~2~|A~1~)P(A~3~|A~1~A~2~)...P(A~n~|A~1~A~2~...A~n-1~)

贝叶斯公式 

贝叶斯公式得到的结果是后验概率（知道结果，求某个原因的概率）

在已知事件B发生的条件下（结果），计算导致B发生的某个原因A~j~的条件概率，就可使用下面的贝叶斯公式

举个栗子

有朋自远方来，他选择坐火车、轮船、汽车或飞机的概率分别为0.3，0.2，0.1和0.4.而如果

坐火车则迟到的概率为0.25，坐轮船为0.3，坐汽车为0.1，坐飞机则不会迟到。问：

(1):此人最终可能迟到的概率是多少？

(2):若已知此人最终迟到了，他是乘坐轮船来的概率是多少？

解：

(1) 以A1，A2，A3，A4分别表示事件“选择的交通工具是火车、轮船、汽车、飞机”,可知

P(A1)=0.3,P(A2)=0.2,P(A3)=0.1,P(A4)=0.4.

再以B表示事件“此人最终迟到”，则P(B|A1)=0.25,P(B|A2)=0.3,P(B|A3)=0.1,P(B|A4)=0。

(2) 所求即为P(A2|B),则根据贝叶斯公式可得

 

随机变量 

 随机变量的定义

给定一个随机试验，如果对试验中每一个可能出现的结果w,都有一个实数X(w)与之对

应，那么就把这个实值单值函数X=X(w)叫做随机变量。

例如：随机抛一枚硬币，只有两种可能的结果：正面、反面。如果记正面为1，反面为

0，即随机变量为：X(正面)=1，X(反面)=0。

随机变量的分类

先补充一个概念——分布函数

设X是一个随机变量(包括离散型和非离散型)，x是任意实数，称函数F(x)=P(X ≤ x)为随

机变量X的分布函数。

• 离散型随机变量

若随机变量X的所有可能取值为有限个或可列无限个，则称X为离散型随机变量

对于离散型随机变量及其对应的概率有如下性质:

 

• 连续型随机变量

对于有些问题，我们并不感兴趣随机变量取某一个值的概率，而是感兴趣其落在某个区间的概率。例如：灯泡的寿命，我们并不感兴趣其寿命恰好为2.53年的概率，而对其寿命在某一个区间的概率进行研究。这样就引出了连续型随机变量。

 

连续型随机变量的分布函数值F(x)是下图中的阴影部分面积

注意

• 离散型随机变量在某一范围内取值的概率等于它取这个范围内各个值对应的概率之和
• 连续型随机变量取某个确定值的概率值是0