概率论与数理统计是人工智能的基础中的基础啊,赶紧学习一波。
1随机试验
1 相同条件下可重复进行
2 结果多样,实验前可能的结果是确定的
3 实验前不确定具体的结果
2样本空间
随机试验的所有可能的基本结果的集合
3 随机事件
样本空间的子集称为随机事件
空集为样本空间的子集,空集称为不可能事件
样本空间为样本空间的子集,样本空间为必然事件
事件的关系
包含:A发生,B必然发生,则A⊂B |
---|
相等:A发生,B必然发生,反之亦然,则A=B |
互斥:A,B不能同时发生,则AB互斥 |
对立(逆):A,B不能同时发生,且至少发生一个,则A,B对立 |
事件的运算
和(或)事件:A或者B发生 则A+B (A∪B) |
---|
积(与)事件:A,B同时发生。则 AB(A∩B) |
差事件:A发生且B不发生,则A-B |
补(逆)事件:A的对立事件,则 A ‾ \overline{A} A |
A 和 B 互 斥 则 A B = ∅ A和B互斥则 AB=\varnothing A和B互斥则AB=∅
A 和 B 对 立 则 A B = ∅ 且 A + B = Ω A和B对立则 AB=\varnothing 且 A+B=\Omega A和B对立则AB=∅且A+B=Ω
A = ( A − B ) + A B A=(A-B)+AB A=(A−B)+AB
A + B = ( A − B ) + A B + ( B − A ) A+B=(A-B)+AB+(B-A) A+B=(A−B)+AB+(B−A)
A + B ‾ = A ‾ ∗ B ‾ \overline{A+B}= \overline{A}* \overline{B} A+B=A∗B
A B ‾ = A ‾ + B ‾ \overline{AB}= \overline{A}+ \overline{B} AB=A+B
交 换 律 : A ∪ B = B ∪ A ; A ∩ B = B ∩ A 交换律:A∪ B=B∪A;A∩ B=B∩ A 交换律:A∪B=B∪A;A∩B=B∩A
结 合 律 : A ∪ ( B ∪ C ) = ( A ∪ B ) ∪ C ; A ∩ ( B ∩ C ) = ( A ∩ B ) ∩ C 结合律:A∪ (B∪C)=(A∪B)∪C;A∩ (B∩ C)=(A∩ B)∩ C 结合律:A∪(B∪C)=(A∪B)∪C;A∩(B∩C)=(A∩B)∩C
分 配 率 : A ∪ ( B ∩ C ) = ( A ∪ B ) ∩ ( A ∪ C ) ; A ∩ ( B ∪ C ) = ( A ∩ B ) ∪ ( A ∩ C ) 分配率:A∪ (B∩C)=(A∪ B)∩ (A∪C);A∩(B∪ C)=(A∩B)∪ (A∩ C) 分配率:A∪(B∩C)=(A∪B)∩(A∪C);A∩(B∪C)=(A∩B)∪(A∩C)
4 频率
在相同条件下进行N次试验,A发生K次,则称k/n为A发生的频率并记成
f
n
(
A
)
f_n(A)
fn(A)
5 概率
设E是随机试验,S是它的样本空间。对于E的每一事件A赋予一个实数,记作P(A),称为事件A的概率
1:
P
(
∅
)
=
0
P(∅)=0
P(∅)=0
2:有限可加性:对于互斥事件
P
(
A
1
∪
A
2
∪
⋅
⋅
⋅
)
=
P
(
A
1
)
+
P
(
A
2
)
+
⋅
⋅
⋅
+
P
(
A
n
)
P(A 1∪A 2∪⋅⋅⋅)=P(A 1)+P(A 2)+⋅⋅⋅+P(A n)
P(A1∪A2∪⋅⋅⋅)=P(A1)+P(A2)+⋅⋅⋅+P(An)
3逆事件的概率公式:
P
(
A
)
=
1
−
P
(
A
)
P( A )=1−P(A)
P(A)=1−P(A)
4:概率的加法公式:
P
(
A
∪
B
)
=
P
(
A
)
+
P
(
B
)
−
P
(
A
B
)
P(A∪B)=P(A)+P(B)−P(AB)
P(A∪B)=P(A)+P(B)−P(AB)
5 概率的减法公式:
P
(
A
−
B
)
=
P
(
A
)
−
P
(
A
B
)
P(A-B)=P(A)-P(AB)
P(A−B)=P(A)−P(AB)
6古典概型(等可能概型)
1:样本空间中个数有限
2:每个元素等可能发生P(A)=P(A1)=P(A2)…
3:
P
(
A
)
=
K
/
N
=
A
中
样
本
总
数
K
/
样
本
总
数
N
P(A)=K/N=A中样本总数K / 样本总数N
P(A)=K/N=A中样本总数K/样本总数N
7条件概率
定义:设A,B是两个事件,且P(A)>0,A条件下B的概率称
P
(
B
∣
A
)
=
P
(
A
B
)
P
(
A
)
P
(
B
∣
A
)
=
P
(
A
B
)
P
(
A
)
P(B∣A)=P(AB)P(A) P(B|A)=\frac{P(AB)}{P(A)}
P(B∣A)=P(AB)P(A)P(B∣A)=P(A)P(AB)
条件减法公式:
P
(
A
−
B
∣
C
)
=
P
(
A
∣
C
)
−
P
(
A
B
∣
C
)
P(A-B|C)=P(A|C)-P(AB|C)
P(A−B∣C)=P(A∣C)−P(AB∣C)
条件加法公式:
P
(
A
∪
B
∣
C
)
=
P
(
A
)
+
P
(
B
∣
C
)
−
P
(
A
B
∣
C
)
P(A∪B|C)=P(A)+P(B|C)−P(AB|C)
P(A∪B∣C)=P(A)+P(B∣C)−P(AB∣C)
乘法定理 :设P(A)>0,则有
P
(
A
B
)
=
P
(
B
∣
A
)
P
(
A
)
P(AB)=P(B∣A)P(A)
P(AB)=P(B∣A)P(A)
P
(
A
B
C
)
=
P
(
C
∣
A
B
)
P
(
B
∣
A
)
P
(
A
)
P(ABC)=P(C∣AB)P(B∣A)P(A)
P(ABC)=P(C∣AB)P(B∣A)P(A)
n事件的乘法公式:
P
(
A
1
A
2
⋅
⋅
⋅
A
n
)
=
P
(
A
n
∣
A
1
A
2
⋅
⋅
⋅
A
n
−
1
)
P
(
A
n
−
1
∣
A
1
A
2
⋅
⋅
⋅
A
n
−
2
)
⋅
⋅
⋅
P
(
A
2
∣
A
1
)
P
(
A
1
)
P(A 1A 2 ⋅⋅⋅A n)=P(A n∣A 1 A 2 ⋅⋅⋅A n−1 )P(An−1 ∣A 1 A 2 ⋅⋅⋅A n−2 )⋅⋅⋅P(A 2 ∣A 1 )P(A 1 )
P(A1A2⋅⋅⋅An)=P(An∣A1A2⋅⋅⋅An−1)P(An−1∣A1A2⋅⋅⋅An−2)⋅⋅⋅P(A2∣A1)P(A1)
8完备事件组
若事件两两互斥,A1+A2+An+…=样本空间则称A1,A2,An为完备事件组
9全概率公式
设B1,B2,Bn为完备事件组,任意的A属于样本空间,则:
P
(
A
)
=
P
(
A
B
1
)
+
P
(
A
B
2
)
+
⋅
⋅
⋅
+
P
(
A
B
n
)
P(A)=P(AB 1 )+P(AB 2 )+⋅⋅⋅+P(AB n )
P(A)=P(AB1)+P(AB2)+⋅⋅⋅+P(ABn)
则全概率公式:
P
(
A
)
=
P
(
A
∣
B
1
)
P
(
B
1
)
+
P
(
A
∣
B
2
)
P
(
B
2
)
+
⋅
⋅
⋅
+
P
(
A
∣
B
n
)
P
(
B
n
)
P(A)=P(A∣B 1 )P(B 1 )+P(A∣B 2 )P(B 2 )+⋅⋅⋅+P(A∣B n )P(B n )
P(A)=P(A∣B1)P(B1)+P(A∣B2)P(B2)+⋅⋅⋅+P(A∣Bn)P(Bn)
10 贝叶斯公式
11独立性
AB为事件,若
P
(
B
∣
A
)
=
P
(
A
B
)
P
(
A
)
=
P
(
B
)
P(B|A)=\frac{P(AB)}{P(A)}=P(B)
P(B∣A)=P(A)P(AB)=P(B)
则:
P
(
A
B
)
=
P
(
A
)
∗
P
(
B
)
P(AB)=P(A) *P(B)
P(AB)=P(A)∗P(B)称A,B独立
1:若 ( A , B ) ( A , B ‾ ) ( A ‾ , B ) ( A ‾ , B ‾ ) (A,B) (A,\overline{B})(\overline{A},B)(\overline{A},\overline{B}) (A,B)(A,B)(A,B)(A,B)有一对独立则全部独立
三事件独立
设A,B,C是三个事件,如果满足公式:
P
(
A
B
)
=
P
(
A
)
P
(
B
)
P(AB)=P(A)P(B)
P(AB)=P(A)P(B)
P
(
B
C
)
=
P
(
B
)
P
(
C
)
P(BC)=P(B)P(C)
P(BC)=P(B)P(C)
P
(
A
C
)
=
P
(
A
)
P
(
C
)
P(AC)=P(A)P(C)
P(AC)=P(A)P(C)
P
(
A
B
C
)
=
P
(
A
)
P
(
B
)
P
(
C
)
P(ABC)=P(A)P(B)P(C)
P(ABC)=P(A)P(B)P(C)
则称事件A,B,C 相互独立