图模型中条件独立的三种典型情况的概率密度推导

在图模型中,条件独立有以下三种典型情况的联合概率均可以从条件概率中推导出

条件独立的定义,

A和B关于C条件独立,那么

P(A,B|C)=P(A|C)*P(B|C)

P(A|B,C)=P(A|C),这一条即可通过条件独立定性理解(BC同时发生对A的影响与只有C发生对A的影响是一样的),也可通过公式推导(百度百科条件独立性)

两个变量的条件概率公式

P(A,B)=P(A|B)*P(B)

三个变量的条件概率公式,将其中两项看作一项即可

P(A,{\color{Red} B,C})=P(A|{\color{Red} B,C})*{\color{Blue} P(B,C)} =P(A|B,C)*{\color{Blue} P(B|C)*P(C)}

(1)头尾相接

X\rightarrow Y\rightarrow Z

P(X,Y,Z)=P(Z|X,Y)*P(X,Y)=P(Z|X,Y)*P(Y|X)*P(X)

因为头尾相接的情况时X,Z关于Y条件独立,根据条件独立的定义P(Z|X,Y)=P(Z|Y),所以

P(X,Y,Z)=P(Z|X,Y)*P(X,Y)=P(Z|X,Y)*P(Y|X)*P(X)=P(Z|Y)*P(Y|X)*P(X)

(2)尾尾相接

这种情况P(X,Y,Z)=P(Z|X,Y)*P(X,Y)=P(Z|X,Y)*P(Y|X)*P(X)

因为Y和Z是条件独立的,所以P(Z|X,Y)=P(Z|X),所以

P(X,Y,Z)=P(Z|X)*P(Y|X)*P(X)

(3)头头相接

P(X,Y,Z)=P(Z|X,Y)*P(Y|X)*P(X),因为X,Y相互独立,所以P(X,Y,Z)=P(Z|X,Y)*P(Y)*P(X)

 

总结

如果一个变量有父节点,那么就要把父节点放在条件概率符号|后面,如果没有,那只需要自己的概率即可,然后把他们都相乘即可得到联合概率

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值