如何从联合概率中得到条件概率

要从联合概率中得到条件概率，我们可以使用条件概率的定义。具体来说，给定两个随机变量 $x$ 和 $y$，其联合概率 $P(x,y)$，条件概率 $P(x|y)$ 和 $P(y|x)$ 可以通过以下方式得到：

条件概率的定义

• 条件概率 $p(y|x)$：
  条件概率 $p(y|x)$ 表示在给定 $x$ 的条件下， $y$ 的概率。它可以通过联合概率和边缘概率计算得到：
  $$p(y|x)=\frac{p(x,y)}{p(x)}$$
  其中 $p(x)$ 是 $x$ 的边缘概率，计算方式如下：
  $$\begin{gathered} p(x)=\sum _{y}p(x,y)\text{(对于离散情况)} \\ p(x)=\int p(x,y)dy\text{(对于连续情况)} \end{gathered}$$

• 条件概率 $p(x|y)$：
  条件概率 $p(x|y)$ 表示在给定 $y$ 的条件下， $x$ 的概率。它可以通过联合概率和边缘概率计算得到：
  $$p(x|y)=\frac{p(x,y)}{p(y)}$$
  其中 $p(y)$ 是 $y$ 的边缘概率，计算方式如下：
  $$\begin{gathered} p(y)=\sum _{x}p(x,y)\text{(对于离散情况)} \\ p(y)=\int p(x,y)dx\text{(对于连续情况)} \end{gathered}$$

示例

假设我们有以下联合概率：
$$p(x,y)=\{\begin{array}{ll}0.1& \text{if }(x=0,y=0)\\ 0.2& \text{if }(x=0,y=1)\\ 0.3& \text{if }(x=1,y=0)\\ 0.4& \text{if }(x=1,y=1)\end{array}$$

计算条件概率 $p(y|x)$

1. 计算边缘概率 $p(x)$：
   $$\begin{gathered} p(x=0)=p(0,0)+p(0,1)=0.1+0.2=0.3 \\ p(x=1)=p(1,0)+p(1,1)=0.3+0.4=0.7 \end{gathered}$$

2. 计算 $p(y|x)$：
   $$\begin{gathered} p(y=0|x=0)=\frac{p(0,0)}{p(x=0)}=\frac{0.1}{0.3}=\frac{1}{3} \\ p(y=1|x=0)=\frac{p(0,1)}{p(x=0)}=\frac{0.2}{0.3}=\frac{2}{3} \\ p(y=0|x=1)=\frac{p(1,0)}{p(x=1)}=\frac{0.3}{0.7}\approx 0.429 \\ p(y=1|x=1)=\frac{p(1,1)}{p(x=1)}=\frac{0.4}{0.7}\approx 0.571 \end{gathered}$$

计算条件概率 $p(x|y)$

1. 计算边缘概率 $p(y)$：
   $$\begin{gathered} p(y=0)=p(0,0)+p(1,0)=0.1+0.3=0.4 \\ p(y=1)=p(0,1)+p(1,1)=0.2+0.4=0.6 \end{gathered}$$

2. 计算 $p(x|y)$：
   $$\begin{gathered} p(x=0|y=0)=\frac{p(0,0)}{p(y=0)}=\frac{0.1}{0.4}=0.25 \\ p(x=1|y=0)=\frac{p(1,0)}{p(y=0)}=\frac{0.3}{0.4}=0.75 \\ p(x=0|y=1)=\frac{p(0,1)}{p(y=1)}=\frac{0.2}{0.6}=\frac{1}{3} \\ p(x=1|y=1)=\frac{p(1,1)}{p(y=1)}=\frac{0.4}{0.6}=\frac{2}{3} \end{gathered}$$

总结

从联合概率 $p(x,y)$ 得到条件概率 $p(y|x)$ 和 $p(x|y)$ 的关键步骤包括：

1. 计算边缘概率 $p(x)$ 和 $p(y)$。
2. 使用条件概率的定义，通过联合概率和边缘概率计算条件概率。

这些步骤使得我们能够从联合概率中提取出具体的条件概率，进而实现数据生成和其他任务。需要注意的是，条件概率的计算前提是边际概率不为0。