文章目录
联合概率及其分布、边缘概率及其分布、条件概率及其分布
联合概率与联合概率分布
假设有随机变量X与Y, 此时,P(X=a,Y=b)用于表示X=a且Y=b的概率。这类包含多个条件且所有条件同时成立的概率称为联合概率。联合概率并不是其中某个条件的成立概率, 而是所有条件同时成立的概率。
联合概率的一览表称为联合分布。
边缘概率与边缘概率分布
P(X=a)或P(Y=b)这类仅与单个随机变量有关的概率称为边缘概率。
边缘概率的一览表称为边缘分布。
条件概率与条件概率分布
在条件Y=b成立的情况下,X=a的概率,记作P(X=a|Y=b)或P(a|b)。
若只有两类事件X和Y,那么有
P
(
X
=
a
∣
Y
=
b
)
=
P
(
X
=
a
,
Y
=
b
)
P
(
Y
=
b
)
P
(
X
=
a
∣
Y
=
b
)
=
P
(
X
=
a
,
Y
=
b
)
P
(
Y
=
b
)
P
(
X
=
a
∣
Y
=
b
)
=
P
(
X
=
a
,
Y
=
b
)
P
(
Y
=
b
)
P(X=a∣Y=b)=P(X=a,Y=b)P(Y=b)P(X=a∣Y=b)=P(X=a,Y=b)P(Y=b) \mathrm{P}(X=a | Y=b)=\frac{\mathrm{P}(X=a, Y=b)}{\mathrm{P}(Y=b)}
P(X=a∣Y=b)=P(X=a,Y=b)P(Y=b)P(X=a∣Y=b)=P(X=a,Y=b)P(Y=b)P(X=a∣Y=b)=P(Y=b)P(X=a,Y=b)p(X)=Y∑p(X∣Y)p(Y)
我们可以把贝叶斯公式的分母p(x)看做归一化常数,来确保贝叶斯公式左侧的条件概率对于所有的Y的取值之和为1。