分类目录:《算法设计与分析》总目录
两个随机变量
x
x
x和
y
y
y,如果它们的概率分布可以表示成两个因子的乘积形式,并且一个因子只包含
x
x
x另一个因子只包含
y
y
y,我们就称这两个随机变量是相互独立的:
∀
x
i
∈
x
,
y
i
∈
y
:
P
(
x
=
x
i
,
y
=
y
i
)
=
P
(
x
=
x
i
)
P
(
y
=
y
i
)
\forall x_i\in x, y_i\in y:P(x=x_i, y=y_i)=P(x=x_i)P(y=y_i)
∀xi∈x,yi∈y:P(x=xi,y=yi)=P(x=xi)P(y=yi)
如果关于
x
x
x和
y
y
y的条件概率分布对于
z
z
z的每一个值都可以写成乘积的形式,那么这两个随机变量
x
x
x和
y
y
y在给定随机变量
z
z
z时是条件独立的:
∀
x
i
∈
x
,
y
i
∈
y
,
z
i
∈
z
:
P
(
x
=
x
i
,
y
=
y
i
∣
z
=
z
i
)
=
P
(
x
=
x
i
∣
z
=
z
i
)
P
(
y
=
y
i
∣
z
=
z
i
)
\forall x_i\in x, y_i\in y, z_i\in z:P(x=x_i, y=y_i|z=z_i)=P(x=x_i|z=z_i)P(y=y_i|z=z_i)
∀xi∈x,yi∈y,zi∈z:P(x=xi,y=yi∣z=zi)=P(x=xi∣z=zi)P(y=yi∣z=zi)
我们可以采用一种简化形式来表示独立性和条件独立性: x ⊥ ⊥ y x\perp \!\!\! \perp y x⊥⊥y表示 x x x和 y y y相互独立, x ⊥ ⊥ y ∣ z x\perp \!\!\! \perp y|z x⊥⊥y∣z表示 x x x和 y y y在给定 z z z时条件独立。