《多维随机变量》_2021秋季《概率论与数理统计》笔记

1024快乐！

边缘分布

相关概念

形式

边缘分布函数

$$F_X(x)=F(x,\infty ),F_Y(y)=F(\infty ,y)$$

边缘分布律

p i ⋅ = ∑ j = 1 ∞ p i j = P { X = x i } , p ⋅ j = ∑ i = 1 ∞ p i j = P { Y = y j } p_{i\cdot}=\sum_{j=1}^\infin p_{ij}=P\{X=x_i\},\quad p_{\cdot j}=\sum_{i=1}^{\infin}p_{ij}=P\{Y=y_j\} pi⋅​=j=1∑∞​pij​=P{X=xi​},p⋅j​=i=1∑∞​pij​=P{Y=yj​}

由于我们经常将边缘分布律写在联合分布律表格的边缘上，这就是“边缘分布律”这个词的来源。

边缘概率密度函数

$$f_X(x)={\int }_{-\infty }^{\infty }f(x,y)\mathrm{d}y,f_Y(y)={\int }_{-\infty }^{\infty }f(x,y)\mathrm{d}x$$

推导

F X ( x ) = P { X ≤ x } = P { X ≤ x , Y < ∞ } = F ( x , ∞ ) F_X(x)=P\{X\leq x\}=P\{X\leq x,Y<\infin\}=F(x,\infin) FX​(x)=P{X≤x}=P{X≤x,Y<∞}=F(x,∞)

$$\begin{array}{rl}{f}_X(x)& =\frac{\mathrm{d}}{\mathrm{d}x}F(x,\infty )=\frac{\mathrm{d}}{\mathrm{d}x}{\int }_{-\infty }^x[{\int }_{-\infty }^{\infty }f(x,y)\mathrm{d}y]\mathrm{d}x\\ & ={\int }_{-\infty }^{\infty }f(x,y)\mathrm{d}y\end{array}$$

注意

• 求解关于某个随机变量的概率分布函数时，例如$f_X(x)$，需要注意是按$x$划分分类函数的区间，而不是看积$y$就用$y$划。
• 边缘分布不能确定联合分布

特殊的边缘分布

1. 二维联合正态分布的边缘分布是一维正态分布；
2. 多项分布的边缘分布是二项分布；
3. 多维超几何分布的边缘分布是超几何分布；
4. 二维均匀分布的边缘分布不一定是均匀分布。

证明

1. $(X,Y)$的联合概率密度函数为

$$p(x,y)=\frac{1}{2\pi {\sigma }_1{\sigma }_{2}c}\mathrm{e}\mathrm{x}\mathrm{p}[-\frac{1}{2c^2}(a^2+b^2-2\rho ab)]$$

​ 其中$a=\frac{x-{\mu }_1}{{\sigma }_1},b=\frac{y-{\mu }_2}{{\sigma }_2},c=\sqrt{1-{\rho }^2}$.

​ 于是，
$$\begin{array}{rl}{p}_X(x)& ={\int }_{-\infty }^{\infty }p(x,y)\mathrm{d}y={\int }_{-\infty }^{\infty }\frac{1}{2\pi {\sigma }_1{\sigma }_{2}c}\mathrm{e}\mathrm{x}\mathrm{p}[-\frac{1}{2c^2}(a^2+b^2-2\rho ab)]\mathrm{d}y\\ & =\frac{1}{\sqrt{2\pi }{\sigma }_1}\mathrm{e}\mathrm{x}\mathrm{p}(-\frac{a^2}{2}){\int }_{-\infty }^{\infty }\frac{1}{\sqrt{2\pi }c}\mathrm{e}\mathrm{x}\mathrm{p}(-\frac{(b-\rho a{)}^2}{2c^2})\mathrm{d}b\\ & =\frac{1}{\sqrt{2\pi }{\sigma }_1}\mathrm{e}\mathrm{x}\mathrm{p}(-\frac{a^2}{2})\\ & =\frac{1}{\sqrt{2\pi }{\sigma }_1}\mathrm{e}\mathrm{x}\mathrm{p}(-\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2})\end{array}$$
​ 大体思路是构造关于$b$的正态分布，这一思想在很多题目中适用。

随机变量函数的分布

$Z=X+Y$

离散型

卷积公式

$$p_{ij}=P(X=x_1,Y=y_j)$$

$$P(Z=z_k)=\sum _{i}P(X=x_i,Y=z_k-x_i)=\sum _{j}P(X=z_k-y_j,Y=y_j)$$

若$X,Y$相互独立，上式可化为
$$P(Z=z_k)=\sum _{i}P(X=x_i)P(Y=z_k-x_i)=\sum _{j}P(X=z_k-y_j)P(Y=y_j)$$

可加性

二项分布

泊松分布

连续型

特殊的均匀分布

设随机变量$X$的分布函数$F(x)$是严格单调递增的连续函数，则随机变量$Y=F(X)$服从均匀分布$U(0,1)$.

证明

严格单调递增：确保存在反函数
$$\begin{array}{rl}{F}_Y(y)& =P(F(X)\le y)=\{\begin{array}{ll}0,& y<0\\ P(X\le F^{-1}(y)),& 0\le y<1\\ 1,& y\ge 1\end{array}\\ & =\{\begin{array}{ll}0,& y<0\\ F(F^{-1}(y)),& 0\le y<1\\ 1,& y\ge 1\end{array}\\ & =\{\begin{array}{ll}0,& y<0\\ y,& 0\le y<1\\ 1,& y\ge 1\end{array}\end{array}$$

意义

任何一个连续随机变量可以通过分布函数与均匀分布建立联系。

可以先生成均匀分布的随机数$y_1,\cdots ,y_n$，再通过$F(x_i)=y_i$求得$x_1,\cdots ,x_n$，从而获得满足给定分布函数的连续随机变量取值。

卷积公式

$$p_{X+Y}(z)={\int }_{-\infty }^{\infty }p(z-y,y)\mathrm{d}y={\int }_{-\infty }^{\infty }p(x,z-x)\mathrm{d}x$$

若$X,Y$相互独立，上式可化为
$$p_{X+Y}(z)={\int }_{-\infty }^{\infty }{p}_X(z-y)p_Y(y)\mathrm{d}y={\int }_{-\infty }^{\infty }{p}_X(x)p_Y(z-x)\mathrm{d}x$$
记$f_X$和$f_Y$为的卷积公式
$$f_X\ast f_Y$$

推导

$$\begin{array}{rl}{F}_Z(z)& ={\iint }_{x+y\le z}p(x,y)\mathrm{d}x\mathrm{d}y={\int }_{-\infty }^{\infty }\mathrm{d}y{\int }_{-\infty }^{z-y}p(x,y)\mathrm{d}x\\ & ={\int }_{-\infty }^{\infty }\mathrm{d}y{\int }_{-\infty }^{z}p(u-y,y)\mathrm{d}u={\int }_{-\infty }^z\mathrm{d}u{\int }_{-\infty }^{\infty }p(u-y,y)\mathrm{d}y\end{array}$$

对$z$求导可得。

可加性

正态分布

1. 若$X_i\sim N({\mu }_i,{\sigma }_i^2),i=1,2,\cdots ,n$，且它们相互独立，则$Z=X_1+X_2+\cdot X_n$也满足正态分布，且$Z\sim N({\mu }_1+{\mu }_2+\cdots +{\mu }_n,{\sigma }_1^2+{\sigma }_2^2+\cdots +{\sigma }_n^2)$。

2. 有限个相互独立的正态随机变量的线性组合仍然服从正态分布。

$\mathrm{G}\mathrm{a}\mathrm{m}\mathrm{m}\mathrm{a}$分布

$Z=\frac{Y}{X},Z=XY$

$$p_{Y/X}(z)={\int }_{-\infty }^{\infty }|x|p(x,xz)\mathrm{d}x$$

$$p_{XY}(z)={\int }_{-\infty }^{\infty }\frac{1}{|x|}p(x,\frac{z}{x})\mathrm{d}x$$

若$X,Y$相互独立，上式可化为
$$p_{Y/X}(z)={\int }_{-\infty }^{\infty }|x|p_X(x)p_Y(xz)\mathrm{d}x$$

$$p_{XY}(z)={\int }_{-\infty }^{\infty }\frac{1}{|x|}{p}_X(x)p_Y(\frac{z}{x})\mathrm{d}x$$

推导

需要注意$x<0$部分的符号变化。
$$\begin{array}{rl}{F}_{Y/X}(z)& =P(Y/X\le z)={\iint }_{y/x\le z,x<0}p(x,y)\mathrm{d}x\mathrm{d}y+{\iint }_{y/x\le z,x>0}p(x,y)\mathrm{d}x\mathrm{d}y\\ & ={\int }_{-\infty }^0\mathrm{d}x{\int }_{zx}^{\infty }p(x,y)\mathrm{d}y+{\int }_0^{\infty }\mathrm{d}x{\int }_{-\infty }^{zx}p(x,y)\mathrm{d}y\\ & \stackrel{y=xu}{=}{\int }_{-\infty }^0\mathrm{d}x{\int }_z^{-\infty }xp(x,xu)\mathrm{d}u+{\int }_0^{\infty }\mathrm{d}x{\int }_{-\infty }^{z}xp(x,xu)\mathrm{d}u\\ & ={\int }_{-\infty }^0\mathrm{d}x{\int }_z^{-\infty }(-x)p(x,xu)\mathrm{d}u+{\int }_0^{\infty }\mathrm{d}x{\int }_{-\infty }^{z}xp(x,xu)\mathrm{d}u\\ & ={\int }_{-\infty }^{\infty }\mathrm{d}x{\int }_{-\infty }^z|x|p(x,xu)\mathrm{d}u\\ & ={\int }_{-\infty }^z\mathrm{d}u{\int }_{-\infty }^{\infty }|x|p(x,xu)\mathrm{d}x\end{array}$$
对$z$求导即可。

M = m a x { X , Y } ， N = m i n { X , Y } M={\rm max}\{X,Y\}，N={\rm min}\{X,Y\} M=max{X,Y}，N=min{X,Y}

若==$X,Y$相互独立==，则
$$F_{\mathrm{m}\mathrm{a}\mathrm{x}}(z)=F_X(z)F_Y(z)$$

$$F_{\mathrm{m}\mathrm{i}\mathrm{n}}(z)=1-[1-F_X(z)][1-F_Y(z)]$$

推广到$n$个相互独立的随机变量情况，
$$F_{\mathrm{m}\mathrm{a}\mathrm{x}}(z)=\prod _i{F}_{X_i}(z)$$

$$F_{\mathrm{m}\mathrm{i}\mathrm{n}}(z)=1-\prod _i(1-F_{X_i}(z))$$

推导

F m a x ( z ) = P { M ≤ z } = P { X ≤ z , Y ≤ z } = P { X ≤ z } P { Y ≤ z } = F X ( z ) F Y ( z ) \begin{aligned} F_{\rm max}(z) &=P\{M\leq z\} =P\{X\leq z,Y\leq z\} \\ &= P\{X\leq z\}P\{Y\leq z\} \\ &=F_X(z)F_Y(z) \end{aligned} Fmax​(z)​=P{M≤z}=P{X≤z,Y≤z}=P{X≤z}P{Y≤z}=FX​(z)FY​(z)​

F m i n ( z ) = P { N ≤ z } = 1 − P { N > z } = 1 − P { X > z , Y > z } = 1 − P { X > z } P { Y > z } = 1 − [ 1 − F X ( z ) ] [ 1 − F Y ( z ) ] \begin{aligned} F_{\rm min}(z) &=P\{N\leq z\} =1-P\{N>z\} \\ &=1-P\{X>z,Y>z\} \\ &=1-P\{X>z\}P\{Y>z\} \\ &=1-[1-F_X(z)][1-F_Y(z)] \end{aligned} Fmin​(z)​=P{N≤z}=1−P{N>z}=1−P{X>z,Y>z}=1−P{X>z}P{Y>z}=1−[1−FX​(z)][1−FY​(z)]​