机器学习中的数学——独立性和条件独立性

分类目录:《算法设计与分析》总目录


两个随机变量 x x x y y y,如果它们的概率分布可以表示成两个因子的乘积形式,并且一个因子只包含 x x x另一个因子只包含 y y y,我们就称这两个随机变量是相互独立的:
∀ x i ∈ x , y i ∈ y : P ( x = x i , y = y i ) = P ( x = x i ) P ( y = y i ) \forall x_i\in x, y_i\in y:P(x=x_i, y=y_i)=P(x=x_i)P(y=y_i) xix,yiy:P(x=xi,y=yi)=P(x=xi)P(y=yi)

如果关于 x x x y y y的条件概率分布对于 z z z的每一个值都可以写成乘积的形式,那么这两个随机变量 x x x y y y在给定随机变量 z z z时是条件独立的:
∀ x i ∈ x , y i ∈ y , z i ∈ z : P ( x = x i , y = y i ∣ z = z i ) = P ( x = x i ∣ z = z i ) P ( y = y i ∣ z = z i ) \forall x_i\in x, y_i\in y, z_i\in z:P(x=x_i, y=y_i|z=z_i)=P(x=x_i|z=z_i)P(y=y_i|z=z_i) xix,yiy,ziz:P(x=xi,y=yiz=zi)=P(x=xiz=zi)P(y=yiz=zi)

我们可以采用一种简化形式来表示独立性和条件独立性: x ⊥  ⁣ ⁣ ⁣ ⊥ y x\perp \!\!\! \perp y xy表示 x x x y y y相互独立, x ⊥  ⁣ ⁣ ⁣ ⊥ y ∣ z x\perp \!\!\! \perp y|z xyz表示 x x x y y y在给定 z z z时条件独立。

  • 8
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

von Neumann

您的赞赏是我创作最大的动力~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值