舒尔补-边际概率-条件概率

slam让我头疼

于 2023-03-24 15:36:27 发布

阅读量457

点赞数 2

分类专栏： SLAM 文章标签：机器学习概率论矩阵

本文链接：https://blog.csdn.net/weixin_38216573/article/details/114310694

版权

SLAM 专栏收录该内容

6 篇文章 0 订阅

订阅专栏

文章介绍了如何通过信息矩阵和舒尔补来计算边际概率，强调了边缘化如何影响变量间的独立性。在给定条件下，如果信息矩阵中的某些项为零，则表示相关变量是独立的。边缘化过程可以导致原本条件独立的变量变得相关，从而使信息矩阵变得更稠密。

摘要由CSDN通过智能技术生成

margin求边际概率的时候喜欢通过舒尔补的形式去操作信息矩阵
如p(b,c)=求积分p(a,b,c)da

在这里插入图片描述

在这里插入图片描述

从上图可知，边缘概率直接看协方差矩阵比较方便，边际概率的方差就是取对应联合分布中相应的协方差块，信息矩阵是由舒尔补的形式计算；此形式也就是边缘化的时候用的方法。
条件概率下直接看信息矩阵比较方便，条件概率的信息矩阵就是取联合分布信息矩阵相应的信息块

协方差计算公式：cov(x,y)=EXY－EX*EY
在本例的信息矩阵中， Λ 13 = Λ 31 = 0 \Lambda_{13}=\Lambda_{31}=0 Λ13=Λ31=0，这意味着变量 x 1 x_1 x1和 x 3 x_3 x3在给定条件 x 2 x_2 x2的条件下是互相独立的，而初始的协方差矩阵二者的对象项并不为零，表示两者的边缘分布并不是独立的。
https://blog.csdn.net/weixin_43991178/article/details/104727733 总结的非常好
对比移除变量的过程：当x1没有被移除的时候，比较稀疏，很多变量关于x1条件独立（信息矩阵中的0项表示对应变量在给定其他标量的条件下，互相独立）；移除后产生相关性，信息矩阵变得稠密。
边缘化会使信息矩阵变得稠密，原先条件独立的量会变得相关。
在这里插入图片描述