先验概率与后验概率
先验概率:统计得到的,或者你根据自身的经验结果得到概率,如一枚硬币正反面出现的概率均是50%,则:
P
(
X
=
正面
)
=
P
(
X
=
反面
)
=
50
%
P(X=正面)=P(X=反面)=50\%
P(X=正面)=P(X=反面)=50%
上面两个概率就是先验概率
后验概率:已知事件A发生的概率下事件B发生的概率,如一枚硬币中若铅含量超过10%,则正面出现的概率会达到70%,已知此类铅含量超标的概率达到30%,则正面出现的概率:
P
(
X
=
正面
∣
铅含量超标
)
=
70
%
P(X=正面|铅含量超标)=70\%
P(X=正面∣铅含量超标)=70%
此即为后验概率,也就是条件概率
贝叶斯公式
P
(
A
∩
B
)
=
P
(
B
)
P
(
A
∣
B
)
=
P
(
A
)
P
(
B
∣
A
)
P(A\cap B)=P(B)P(A|B)=P(A)P(B|A)
P(A∩B)=P(B)P(A∣B)=P(A)P(B∣A)
同理:
P
(
X
∩
Y
)
=
P
(
X
)
P
(
Y
∣
X
)
=
P
(
Y
)
P
(
X
∣
Y
)
P(X\cap Y)=P(X)P(Y|X)=P(Y)P(X|Y)
P(X∩Y)=P(X)P(Y∣X)=P(Y)P(X∣Y)
移项得,贝叶斯公式:
P
(
Y
∣
X
)
=
P
(
Y
)
P
(
X
∣
Y
)
P
(
X
)
P(Y|X)=\frac{P(Y)P(X|Y)}{P(X)}
P(Y∣X)=P(X)P(Y)P(X∣Y)
式中:P(Y)是先验概率,P(X|Y)是似然函数,P(X)是模型的边缘似然函数。