概率论速查手册(3)——多维随机变量及其分布

1 概念

1.1 联合分布

设\(x,y\)

$$F(x,y)\triangleq{P}\{X\leqslant x,Y\leqslant y\}$$

$$-\infty<x<+\infty,-\infty<y<+\infty$$

1.2 边缘分布

(图片来自WikiPedia边缘分布词条)

已知\(F(x,y)\)

$$F_X(x)\triangleq{P}\{X\leqslant x\}={P}\{X\leqslant x,\Omega\}=P{X\leqslant x,Y\leqslant+\infty}$$

$$=F(x,+\infty)=\lim_{y\to+\infty}F(x,y)$$

同理：

$$F_Y(y)=\lim_{x\to+\infty}F(x,y)$$

 

2 离散型、连续型随机变量的联合、边缘及条件概率（密度）

2.1 离散型随机变量的联合分布、边缘分布与条件分布

\(X,Y\thicksim{p_{ij}}=p(X=x_i,Y=y_j)\)(联合分布率)

\(_X^{\\ {Y}}\)	\(y_1 \)	\(…\)	\(y_j\)	\(…\)	边缘
\(x_1\)	\(p_{11}\)	\(…\)	\(p_{1j}\)	\(…\)	\(p_{1.}\)
\(…\)	\(…\)	\(…\)	\(…\)	\(…\)	\(…\)
\(x_i\)	\(p_{i1}\)	\(…\)	\(p_{ij}\)	\(…\)	\(p_{i.}\)
\(…\)	\(…\)	\(…\)	\(…\)	\(…\)	\(…\)
边缘	\(p_{.1}\)	\(…\)	\(p_{.j}\)	\(…\)	\(1\)

条件分布：

$$P(X=x_i|Y=y_j)={{P(X=x_i,Y=y_j)}\over{P(Y=y_j)}}={{p_{ij}}\over{p_{.j}}}, 条件={{联合}\over{边缘}}$$

2.2 连续型随机变量的联合密度、边缘密度

联合概率密度：\(X,Y\thicksim{f(x,y)}\)

边缘概率密度：

$$f_X(x)=\int_{-\infty}^{+\infty}f(x,y)dy$$

$$f_Y(y)=\int_{-\infty}^{+\infty}f(x,y)dx$$

条件概率密度：

$$f_{X|Y}(x|y)={{f(x,y)}\over{f_Y(y)}}, 条件={{联合}\over{边缘}}$$

 

3 独立性的概念

多元随机变量的独立性

---

例子：分别掷两次骰子，两次都为1的概率为1/36

---

$$X,Y相互独立\Leftrightarrow F(x,y)=F_X(x)F_Y(y)$$

3.1 离散型随机变量

$$X,Y相互独立\Leftrightarrow p_{ij}=p_ip_j$$

3.2 连续型随机变量

$$X,Y相互独立\Leftrightarrow f(x,y)=f_X(x)f_Y(y)$$

 

4 两大分布

4.1 均匀分布

$$X,Y\thicksim{f(x,y)}=\left\{ \begin{aligned}&{{1}\over{S_D}}&,(x,y)\in D\\&0&,(x,y)\notin D\end{aligned} \right. $$

4.2 正态分布(高斯分布)

若

$$X,Y\thicksim N(\mu_1,mu_2,\sigma_1^2,\sigma_2^2,\rho)$$

则

1.\(X\thicksim N,Y\thicksim N\)

2.\(aX+bY\thicksim N\)

3.\(独立\Leftrightarrow不想关(高斯过程中成立)\)

---

独立一定不相关，但不相关不一定独立

相关性中的相关指的是线性相关，不相关就是不线性相关，但这不意味着随机变量之间有其他关系导致的不独立

---

若干独立变量服从正态分布，其线性组合依然服从线性分布