03概率论与数理统计笔记 多维随机变量——基于《概率论与数理统计》许忠好

多维随机变量及其联合分布

定义与性质

X Y是定义在概率空间（Ω，𝓕，P）的随机变量，称（X,Y）为二维随机变量
类似的 若X1……Xd是d个定义在概率空间（Ω，𝓕，P）上的随机变量
称（X1,……，Xd)是d维随机变量

$$F(x,y)=P(X\le x,Y\le y)$$

联合分布函数的性质
1）单调性：
F（x,y）关于每个分量单调不降

2）有界性：0≤F(x,y)≤1, F(∞，∞） = 1

3）右连续性：F(x,y)分别关于x,y右连续

4）非负性
a1<b1, a2 < b2时候
$$F(b_1,b_2)-F(b_1,a_2)-F(a_1,b_2)+F(a_1,a_2)\ge 0$$

二维离散型分布

定义：
随机变量（X,Y）取值个数为有限对or可列对，称（X，Y）是二维离散型随机变量

分布列
（X,Y)取值于{（x_i,y_i）:i,j = 1,2……}
$$p_{ij}=P(X=x_i,Y=y_i)$$
为X,Y的联合分布列

性质：
1）非负性：$$p_{ij}\ge 0$$
2）正则性：$$\sum _{i,j}{p}_{i,j}=1$$

定理
$$P((X,Y)\in D)=\sum _{(i,j):(x_i,y_j)\in D}$$

二维连续性分布

$$F(x,y)={\iint }_{D_{xy}}p(u,v)dudv$$
p(x,y)为（X，Y）的联合概率密度函数

性质：
1）非负性
p(x,y)≥0
2）正则性
$${\iint }_{R^2}p(x,y)dxdy=1$$

定理
$$P((X,Y)\in D)={\iint }_{D}p(x,y)dxdy$$

已知分布求概率

$$P((X,Y)\in D)=\{\begin{array}{rlr}\sum _{(i,j):(x_i,y_j)\in D}{p}_{ij}& & 离散\\ {\iint }_{D}p(x,y)dxdy& & 连续\end{array}$$

特殊多维分布

1 多项分布
重复做同一随机试验，每次实验有r个结果，A1……Ar。记P（A_i) = p_i，i = 1……r，记X_i为n次重复独立实验中A_i出现的次数

$$P(X_1=n_1,\dots \dots X_r=n_r)=\{\begin{array}{rlr}\frac{n!p_1^{n1}\dots p_r^{nr}}{n_1!\dots n_r!}& & \sum _{i=1}^r{n}_i=n\\ 0& & 其他\end{array}$$

2 多维超几何分布
口袋中有N个球，分成r类，第i种有N_i只N1+……+Nr = N,从种任取n个，记Xi是n个球第i种球的个数
$$P(X_1=n_1,\dots \dots X_r=n_r)=\{\begin{array}{rlr}\frac{C_{N_1}^{n_1}\dots C_{N_r}^{n_r}}{C_N^n}& & \sum _{i=1}^r{n}_i=n\\ 0& & 其他\end{array}$$

3 二位均匀分布
$$p(x,y)=\{\begin{array}{rlr}\frac{1}{S_D}& & (x,y)\in D\\ 0& & 其他\end{array}$$

4 二维正态分布
p ( x , y ) = 1 2 π σ 1 σ 2 c e x p { − 1 2 c 2 ( a 2 + b 2 − 2 ρ a b ) } p(x,y) = \frac{1}{2\pi\sigma_1\sigma_2 c}exp\{-\frac{1}{2c^2}(a^2+b^2-2\rho ab)\} p(x,y)=2πσ1​σ2​c1​exp{−2c21​(a2+b2−2ρab)}
其中
$$a=\frac{x-{\mu }_1}{{\sigma }_1}b=\frac{y-{\mu }_2}{{\sigma }_2}c=\sqrt{1-{\rho }^2}$$
$$(X,Y)\sim N({\mu }_1,{\sigma }_1^2,{\mu }_2,{\sigma }_2^2,\rho )$$

边际分布

定义
$$\begin{gathered} F_X(x)=F(x,\infty ）=\underset{y\to \infty }{\lim }F(x,y) \\ {F}_Y(y)=F(\infty ,y）=\underset{y\to \infty }{\lim }F(x,y) \end{gathered}$$

边际分布率

$$p_{ij}=P(X=x_i,Y=y_i)$$
$$p_i=P(X=x_i)=\sum _{j=1}^{\infty }{p}_{ij}=p_i$$
$$p_j=P(Y=y_j)=\sum _{i=1}^{\infty }{p}_{ij}=p_j$$

边际概率密度函数

X的概率密度函数
$$p_X(x)={\int }_{-\infty }^{+\infty }p(x,y)dy$$
Y的概率密度函数
$$p_Y(y)={\int }_{-\infty }^{+\infty }p(x,y)dx$$

定理
设(X,Y)服从二维正态分布N(μ1，σ1²；μ2，σ2²，ρ)
则X服从正态分布N（μ1，σ1²）
Y服从正态分布N（μ2，σ2²）

随机变量的独立性

相互独立
若联合分布函数等于边际分布函数的乘积，则X和Y相互独立
$$F(x,y)=F_X(x)F_Y(y)$$
对离散型就是pij = pi ✖ pj

定理
设(X,Y)服从二维正态分布N(μ1，σ1²；μ2，σ2²，ρ)
则X和Y独立当且仅当ρ = 0

随机变量函数的分布

设随机变量(X,Y)具有分布列{pij,i,j = 1.2……}或概率密度函数p(x,y)
则随机变量Z=g(X,Y)的分布函数为
$$F_Z(z)=P((X,Y)\in D_z)\{\begin{array}{rlr}\sum _{(i,j):(x_i,y_j)\in D_z}{p}_{ij}& & 离散\\ {\iint }_{D_t}p(x,y)dxdy& & 连续\end{array}$$

离散型

二维离散随机变量（X，Y)具有分布列{pij,i,j = 1,2……}随机变量Z = g(X,Y)所有可能取值为{z_k,k = 1……}
Z的分布列
$$P(Z=z_k)=\sum _{(i,j):g(x_i,y_j)=z_k}{p}_{ij}$$

卷积公式
随机变量(X,Y)的联合分布列
pij = P（X = xi， Y = yj）
Z= X+Y的分布列
$$P(Z=z_k)=\sum _{i}P(X=x_i,Y=z_k-x_i)=\sum _{i}P(X=z_k-y_j,Y=y_j)$$

定义
若某类概率分布的独立随机变量和分布仍是此类分布，称此类分布具有可加性

定理:
①二项分布可加性
X服从二项分布b（n，p) Y服从b（m，p）
则随机变量Z = X + Y服从二项分布 b（n+m,p)

②泊松分布可加性
X服从泊松分布P（λ1） Y服从P（λ2）
则随机变量Z = X + Y服从泊松分布（λ1+λ2）

连续型

定理
设随机变量X概率密度函数为P_X（x） y = f(x)是严格单调函数，其反函数x = h（y）右连续导函数，则随机变量Y = f（X) 概率密度函数为
$$p_Y(y)=\{\begin{array}{rlr}{p}_X(h(y))|h^{{}^{\prime }}(y)|& & a<y<b\\ 0& & 其他\end{array}$$
a = min{f(-∞),f(+∞)} b = max{f(-∞),f(+∞)}

正态分布的线性不变性
X服从正态分布N（μ，σ²） a不为0 Y = aX + b服从N（aμ+b,a²μ²）
推论$$X\sim N（\mu ，\sigma ²）\frac{X-\mu }{\sigma }\sim N（0，1）$$

定理
随机变量X服从Gamma分布Ga（α，λ） k>0则随机变量kX服从Gamma分布Ga（α，λ/k）

定理
设随机变量X的分布函数F(x)是严格单调增的连续函数，则随机变量F(X)服从均匀分布U(0,1)

定理
随机变量X1……Xn相互独立，分布函数分别为F_i(x)和p_i(x)
Y = max(X1……Xn）
Z = min(X1……Xn）
$$F_Y(y)=\prod _{i=1}^n{F}_i(y)F_Z(z)=1-\prod _{i=1}^n(1-F_i(z))$$

定理
Z=tX+Y
$$p_Z(z)={\int }_{－\infty }^{\infty }p(x,z-tx)dx$$

卷积公式
X,Y相互独立
Z=X+Y
$$p_Z(z)={\int }_{－\infty }^{\infty }{p}_X(x)p_Y(z-x)dx={\int }_{－\infty }^{\infty }{p}_X(z-y)p_Y(y)dy$$