条件概率与条件独立学习笔记

条件概率与条件独立

边缘概率 (Marginal Probability)：如果我们知道了⼀组变量的联合概率分布，但想要了解其中⼀个⼦集的概率分布。这种定义在⼦集上的概率
分布被称为边缘概率分布。

条件概率 (Conditional Probability)：在很多情况下，我们感兴趣的是某个事件，在给定其他事件发⽣时出现的概率。这种概率叫做条件概率。
我们将给定 x = x，y = y 发⽣的条件概率记为 P(y = y | x = x)。这个条件概率可以通过下⾯的公式计算:

条件概率的链式法则 (Chain Rule of Conditional Probability)：任何多维随机变量的联合概率分布，都可以分解成只有⼀个变量的条件概率
相乘的形式:

独立性 (Independence)：两个随机变量 x 和 y，如果它们的概率分布可以表⽰成两个因⼦的乘积形式，并且⼀个因⼦只包含 x 另⼀个因⼦只包含y，我们就称这两个随机变量是相互独⽴的

条件独立性 (Conditional Independence)：如果关于 x 和 y 的条件概率分布对于 z 的每⼀个值都可以写成乘积的形式，那么这两个随机变量 x 和 y 在给定随机变量 z 时是条件独⽴的。