Water valve concept流水法判断D-separation
D-separation
概率图模型中的D-separation是一种刻画随机变量之间条件独立性的方法。具体来说,给定一个概率图模型,如果其中两个随机变量X和Y不直接相连,且它们之间没有任何未观测到的随机变量,那么我们称X与Y是D-separated的,即在这种情况下X和Y是条件独立的。
D-separation的概念可以通过概率图模型中的有向路径来进行定义。如果路径P被一个集合Z所阻断,那么我们称路径P在给定集合Z的条件下是被阻断的。如果路径P的所有非观测节点都被Z所阻断,那么我们称路径P在给定集合Z的条件下是完全被阻断的。如果在一个概率图模型中任意一条连接两个未观测到节点的路径都是被某个集合Z完全阻断的,那么我们称这个集合Z可以D-分离这两个节点,即这两个节点是条件独立的。
D-separation在概率图模型中有广泛的应用,包括推断、学习以及因果推断等方面。
流水法判断
技巧如图所示,分为以下几个步骤,以判断A、B节点的独立性为例
- 首先,画出因子图,注意,所有的箭头都要朝下指
- 判断是正V还是反V类型,上图中,第一行是反V,第二行是正V(箭头指向一起的是反V,箭头是两边分开的是正V)
- 如果是给出的节点,如 P ( A B ∣ C ) P(AB|C) P(AB∣C),C就是给出的节点,就是关闭的阀门,如果观测不到,就是空心的
- 从一个节点开始流水,在反V情况下,关闭的阀门可以让水顶上去(左上图),开的阀门可以让水直接流走,因此,a的水第一幅图可以到b,第二幅不可以,判断D-separation的准则为:如果水可以流过去,就说明两个节点有关系,则不独立;如果水流不过去,则独立
- 在正V的情况下,打开的阀门可以让水流过去,而不是从上面流到外面去(图三),而关闭的阀门把水堵住了,水流不过去,因此根据流水法就可以快速判读独立性了。
例子