贝叶斯决策
贝叶斯决策理论
贝叶斯决策理论:在不完全情报下,对部分未知的状态用主观概率估计。
贝叶斯公式
从条件概率公式推导贝叶斯公式
若果
A
A
A和
B
B
B相互独立,则有
p
(
A
,
B
)
=
p
(
A
)
p
(
B
)
p(A,B) = p(A)p(B)
p(A,B)=p(A)p(B),并有条件概率公式
p
(
A
∣
B
)
=
p
(
A
,
B
)
p
(
B
)
p
(
B
∣
A
)
=
p
(
A
,
B
)
p
(
A
)
p(A|B) = {\frac{p(A,B)}{p(B)}} \\ p(B|A) = {\frac{p(A,B)}{p(A)}} \\
p(A∣B)=p(B)p(A,B)p(B∣A)=p(A)p(A,B)
通过条件概率可得
p
(
A
,
B
)
=
p
(
B
∣
A
)
p
(
A
)
p
(
A
∣
B
)
=
p
(
B
∣
A
)
p
(
A
)
p
(
B
)
简写的贝叶斯公式
p(A,B) = p(B|A)p(A) \\ p(A|B) = {\frac{p(B|A)p(A)}{p(B)}} \quad \text{简写的贝叶斯公式}
p(A,B)=p(B∣A)p(A)p(A∣B)=p(B)p(B∣A)p(A)简写的贝叶斯公式
p
(
A
∣
B
)
p(A|B)
p(A∣B):后验概率,B发生的情况下发生A的概率,需要计算的概率
p ( B ∣ A ) p(B|A) p(B∣A):似然度,A假设条件成立的情况发生B的概率
p ( A ) p(A) p(A):A的先验概率,也可以理解成一般情况下A发生的概率
p ( B ) p(B) p(B):标准化常量,也可以理解成一般情况下B发生的概率
从全概率公式推导贝叶斯公式
全概率公式
p
(
B
)
=
∑
i
=
1
n
p
(
B
∣
A
=
A
i
)
p
(
A
i
)
其中
∑
i
=
1
n
p
(
A
i
)
=
1
p(B) = \sum_{i=1}^n{p(B|A=A_i)p(A_i)} \quad \text{其中}\sum_{i=1}^n{p(A_i)=1}
p(B)=i=1∑np(B∣A=Ai)p(Ai)其中i=1∑np(Ai)=1
通过全概率公式可得
p
(
A
∣
B
)
=
p
(
B
∣
A
)
p
(
A
)
∑
i
=
1
n
p
(
B
∣
A
=
A
i
)
p
(
A
i
)
完整的贝叶斯公式
p(A|B) = {\frac{p(B|A)p(A)}{\sum_{i=1}^n{p(B|A=A_i)p(A_i)}}} \quad \text{完整的贝叶斯公式}
p(A∣B)=∑i=1np(B∣A=Ai)p(Ai)p(B∣A)p(A)完整的贝叶斯公式
贝叶斯公式应用
在数字通信中,由于随机干扰,因此接受的信号与发出的信号可能不同,为了确定发出的信号,通常需要计算各种概率。
如果发报机以0.6和0.4的概率发出信号0和1;
当发出信号0时,以0.7和0.2的概率收到信号0和1;
当发出信号1时,接收机以0.8和0.2收到信号1和0。
计算当接受机收到信号0时,发报机发出信号0的概率。
通过上述给出的数据可以得到以下推导
p ( A 0 ) = 0.6 p(A_0) = 0.6 p(A0)=0.6:发报机发出信号0的概率
p ( A 1 ) = 0.4 p(A_1) = 0.4 p(A1)=0.4:发报机发出信号1的概率
p ( B ) = p ( A 0 ) p ( B ∣ A 0 ) + p ( A 1 ) p ( B ∣ A 1 ) p(B)=p(A_0)p(B|A_0) + p(A_1)p(B|A_1) p(B)=p(A0)p(B∣A0)+p(A1)p(B∣A1):发报机接收到信号0的概率
p ( B ∣ A 0 ) = 0.7 p(B|A_0) = 0.7 p(B∣A0)=0.7:发报机发出信号0接收到信号0的概率
p ( B ∣ A 1 ) = 0.2 p(B|A_1) = 0.2 p(B∣A1)=0.2:发报机发出信号1接收到信号0的概率
KaTeX parse error: No such environment: align at position 8: \begin{̲a̲l̲i̲g̲n̲}̲ p(A_0|B) & = {…