概率论与数理统计-第一部分

1 事件关系与运算

1.1 事件关系

集合(事件)关系	集合语言	语言描述	概率关系
包含	$A\subseteq B$	$A$ 发生，则 $B$ 一定发生	$P(A)⩽P(B)$
等价	$A=B$	$A$ 发生 $B$ 一定发生，反之亦然	$P(A)=P(B)$
交	$\bigcap _{k=1}^n{A}_k$	事件 $A_k$ 同时发生	$A_k$ 互相独立，$P\left(\bigcap _{k=1}^n{A}_k\right)=\prod _{k=1}^{n}P(A_k)$
并	$\bigcup _{k=1}^n{A}_k$	$A_k$ 至少有一个发生	$$\begin{gathered} \forall i\ne j,A_i{A}_j=\varphi , \\ P\left(\bigcup _{k=1}^n{A}_k\right)=\sum _{k=1}^{n}P(A_k) \end{gathered}$$
减	$A-B=A\bar{B}$	$A-B$ 发生，仅当 $A$ 发生 $B$ 不发生	$\begin{array}{rl}P(A-B)& =P(A\bar{B})\\ & =P(A)-P(AB)\end{array}$
对立	$\bar{A}=\Omega -A$	$\bar{A}$ 发生，当且仅当 $A$ 不发生	$\begin{array}{rl}P(\bar{A})& =P(\Omega )-P(A)\\ & =1-P(A)\end{array}$
互斥	$A\cap B=\varphi$	$A,B$ 不可能同时发生	$P(AB)=P(\varphi )=0$
完备事件组	$$\begin{gathered} \bigcup _{k=1}^n{A}_k=\Omega , \\ \underset{(1⩽i<j⩽n)}{A_i\cap A_j=\varphi } \end{gathered}$$	一个两两互斥的事件组,它们的和等于必然事件	$P\left(\bigcup _{k=1}^n{A}_k\right)=P(\Omega )=1$

1.2 运算性质

运算律	集合语言(并)	集合语言(交)
交换律	$A\cup B=B\cup A$	$AB=BA$
结合律	$(A\cup B)\cup C=A\cup (B\cup C)$	$(AB)C=A(BC)$
分配律	$(A\cup B)\cap C=AC\cup BC$	$(A\cap B)\cup C=(A\cup C)\cap (B\cup C)$
对偶律(德摩根律)	$\overline{\bigcup _{k=1}^n{A}_k}=\bigcap _{k=1}^n\overline{A_k}$	$\bigcup _{k=1}^n\overline{A_k}=\overline{\bigcap _{k=1}^n{A}_k}$

2 概率运算

2.1 性质

2.1.1 不可能事件与必然事件

不可能事件：$$P(\varphi )=0$$
必然事件：$$P(\Omega )=1$$

Tips:
不可能事件概率为0，但概率为零的未必是不可能事件；概率为0未必是空集，概率为1未必是全集。

2.1.2 概率关系与事件关系

事件关系可推出概率关系，但概率关系无法推知事件关系。
点与线的面积为零，概率为零，例如：

$P(A)=0\begin{array}{c}\nRightarrow \\ \Leftarrow \end{array}A=\varphi$

$P(AB)=0\begin{array}{c}\nRightarrow \\ \Leftarrow \end{array}AB=\varphi$

$P(A)=P(AB)\nRightarrow A=AB\subset B$

2.2 公式

2.2.1 加法公式

$$P(A\cup B)=P(A)+P(B)-P(AB)\stackrel{A,B互斥\iff P(AB)=0}{=}P(A)+P(B)$$

推论：
$$\begin{array}{rl}P(A)+P(B)-1& \stackrel{{}_{P(A\cup B)⩽1}}{⩽}P(AB)=P(A)+P(B)-P(A\cup B)\\ & \stackrel{{}_{0⩽P(A\cup B)}}{⩽}P(A)+P(B)\end{array}$$

有限可加性：

$A_i$ 两两互斥 (即 $\forall i\ne j,A_i{A}_j=\varphi$)，则 $P\left(\bigcup _{k=1}^n{A}_k\right)=\sum _{k=1}^{n}P(A_k)$

2.2.2 减法公式

$$P(A-B)=P(A\bar{B})=P(A-AB)=P(A)-P(AB)$$

推论：
$$P(A-B)=P(A)-P(AB)\stackrel{{}_{AB\subseteq B\Rightarrow P(AB)⩽P(B)}}{⩾}P(A)-P(B)$$

2.2.3 对立事件

$$P(\bar{A})=1-P(A),P(\bar{A}|B)=1-P(A|B)$$

2.2.4 条件概率

$$P(A|B)=\frac{P(AB)}{P(B)}\stackrel{A,B独立\iff P(AB)=P(A)P(B)}{=}P(A)$$

意义:
事件A<在事件B发生的条件下>发生的概率；条件概率的作用为限制条件，缩减样本空间，故所有运算法则皆可在“|”前使用。

2.2.5 乘法公式

$$P(AB)=\{\begin{array}{l}P(A)P(B|A),P(A)>0\\ \\ P(B)P(A|B),P(B)>0\end{array}$$

推广：
$$P\left(\prod _{k=1}^n{A}_k\right)=\prod _{k=1}^{n}P\left(A_k|\bigcap _{i=0}^{k=1}{A}_i\right),A_0=\varphi ,P\left(\bigcap _{k=1}^n{A}_k\right)>0$$

推论：
$$P(AB)=0\Rightarrow P(ABC)=P(AB)P(ABC|AB)=0$$

2.2.6 全概率公式

设 $A_i$ 为完备事件组，则有
$$P(B)=P(B\Omega )=P\left(B\bigcup _{k=1}^n{A}_k\right)=\sum _{k=1}^{n}P(B{A}_k)\stackrel{P(A_i)>0}{=}\sum _{k=1}^{n}P(A_k)P(B|A_k)$$

意义：

随机试验分为两个阶段：$1\stackrel{P(A_i)}{\to }{A}_i\stackrel{P(B|A_i)}{\to }B$，第一阶段多种可能结果为$A_i$，求解第二阶段某事件 $B$ 的概率.

2.2.7 贝叶斯公式

设 $A_i$ 为完备事件组，则有
$$\forall 1⩽m⩽n:P(A_m|B)\stackrel{P(B)>0}{=}\frac{P(B{A}_m)}{P(B)}\stackrel{P(A_i)>0}{=}\frac{P(A_m)P(B|A_m)}{\sum _{k=1}^{n}P(A_k)P(B|A_k)}$$

2.2.8 常见概率不等关系

$$\begin{array}{rl}& \{\begin{array}{l}\forall A:0⩽P(A)⩽1\\ A\subseteq B,P(A)⩽P(B)\\ AB\subseteq A,P(AB)⩽P(A)\end{array}\\ \Rightarrow & \{\begin{array}{l}0⩽P(ABC)⩽P(AB)⩽P(A)\\ \\ P(B)⩽P(A\cup B)⩽P(A\cup B\cup C)⩽1\\ \\ P(A)+P(B)-1⩽P(AB)=P(A)+P(B)-P(A\cup B)⩽P(A)+P(B)\\ \\ P(A-B)=P(A\bar{B})=P(A-AB)=P(A)-P(AB)⩾P(A)-P(B)\end{array}\end{array}$$

Tips: 事件交更小，并更大

2.3 独立

2.3.1 相互独立

$$\begin{array}{rl}A,B相互独立& \stackrel{\mathrm{def}}{\iff }P(AB)=P(A)P(B)\\ & \iff A,\bar{B}独立\iff \bar{A},B独立\iff \bar{A},\bar{B}独立\\ & \iff P(A|B)=P(A|\bar{B})(0<P(B)<1)\\ & \iff P(\bar{A}|B)+P(A|\bar{B})=1(0<P(B)<1)\\ & \iff P(A|B)+P(\bar{A}|\bar{B})=1(0<P(B)<1)\end{array}$$

$$A,B,C相互独立\iff \{\begin{array}{l}\begin{array}{r}P(AB)=P(A)P(B)\\ P(BC)=P(B)P(C)\\ P(CA)=P(C)P(A)\end{array}\}\iff A,B,C两两独立\\ P(ABC)=P(A)P(B)P(C)\end{array}$$

2.3.2 独立与互斥

1. $A,B$ 独立 $\iff P(AB)=P(A)P(B)\nLeftrightarrow A,B$互斥 $\iff A,B=\varphi \Rightarrow P(AB)=0$

2. $P(A),P(B)>0$
   互斥一定不独立：$P(AB)=P(\varphi )=0\ne P(A)P(B)>0$
   独立一定不互斥：$P(AB)=P(A)P(B)>0\nRightarrow P(AB)=0$

3. $P(A)=0,A$ 与 $\forall B$ 独立；$A,B$ 也可能互斥，如 $P(A)P(B)=0$

4. $0<P(A),P(B)<1$，且 $AB=\varphi$ 或 $A\subset B\Rightarrow A,B$ 不独立.

5. $\varphi$ 与任意事件既独立又互斥.

3 常见一维二维分布与三大抽样分布

3.1 一维r.v.

3.1.1 离散型r.v.

3.1.1.1 0-1分布 $X\sim B(1,p)$

意义：

$1$ 次伯努利试验，成功率为 $p$，成功次数 $X$ 服从0-1分布.

概率分布：
P { X = k } = P k ( 1 − p ) 1 − k   ( 0 < p < 1 ; k = 0 , 1 ) P\{X=k\}=P^k(1-p)^{1-k}\ (0<p<1;k=0,1) P{X=k}=Pk(1−p)1−k (0<p<1;k=0,1)

数字特征：
$$E(X)=p,D(X)=p(1-p)$$

proof:

E ( X ) = 0 ⋅ P { X = 0 } + 1 ⋅ P { X = 1 } = 0 ⋅ ( 1 − p ) + 1 ⋅ p = p E ( X 2 ) = 0 2 ⋅ P { X 2 = 0 } + 1 2 ⋅ P { X 2 = 1 } = p D ( X ) = E ( X 2 ) − [ E ( X ) ] 2 = p ( 1 − p ) \begin{aligned} &E(X)=0\cdot P\{X=0\}+1\cdot P\{X=1\}=0\cdot (1-p)+1\cdot p=p \\&E(X^2)=0^2\cdot P\{X^2=0\}+1^2\cdot P\{X^2=1\}=p \\&D(X)=E(X^2)-[E(X)]^2=p(1-p) \end{aligned} ​E(X)=0⋅P{X=0}+1⋅P{X=1}=0⋅(1−p)+1⋅p=pE(X2)=02⋅P{X2=0}+12⋅P{X2=1}=pD(X)=E(X2)−[E(X)]2=p(1−p)​

3.1.1.2 二项分布 $X\sim B(n,p)$

意义：

$n$ 次独立重复伯努利试验，成功率为 $p$，成功次数 $X$ 服从二项分布.

概率分布：
P { X = k } = C n k   p k ( 1 − p ) n − k   ( 0 < p < 1 ; k = 0 , 1 , ⋯   , n ) P\{X=k\}=C_n^k\ p^k(1-p)^{n-k}\ (0<p<1;k=0,1,\cdots,n) P{X=k}=Cnk​ pk(1−p)n−k (0<p<1;k=0,1,⋯,n)

独立可加性：
$$\{\begin{array}{l}X\sim B(n,p)\\ Y\sim B(m,p)\end{array}\Rightarrow Z=X+Y\sim B(m+n,p)$$

数字特征：
$$E(X)=np,D(X)=np(1-p)$$

proof1:
将 $X$ 分解为 $n$ 个独立同分布于 $0-1$ 分布的随机变量，即
$$X=\sum _{k=1}^n{X}_k\sim B(n,p),X_k\sim B(1,p)$$
由 0-1 分布有
$$E(X_k)=E(X_k^2)=p,D(X_k)=E(X_k^2)-E(X_k{)}^2=p(1-p)$$
于是
$$E(X)=\sum _{k=1}^{n}E(X_k)=np,D(X)=\sum _{k=1}^{n}D(X_k)=np(1-p)$$

proof2:
E ( X ) = ∑ k = 0 n k ⋅ P { X = k } = ∑ k = 0 n k ⋅ C n k p k ( 1 − p ) n − k = ∑ k = 1 n k ⋅ C n k p k ( 1 − p ) n − k = ∑ k = 1 n k ⋅ n ! k ! ( n − k ) ! p k ( 1 − p ) n − k = n p ∑ k = 1 n ( n − 1 ) ! ( k − 1 ) ! ( n − k ) ! p k − 1 ( 1 − p ) ( n − 1 ) − ( k − 1 ) = i = k − 1 n p ∑ i = 0 n − 1 ( n − 1 ) ! i ! [ ( n − 1 ) − i ] ! p i ( 1 − p ) ( n − 1 ) − i = n p ∑ i = 0 n − 1 C n − 1 i p i ( 1 − p ) ( n − 1 ) − i = n p [ p + ( 1 − p ) ] n − 1 = n p E ( X 2 ) = ∑ k = 0 n k 2 ⋅ C n k p k ( 1 − p ) n − k = ∑ k = 0 n [ k ( k − 1 ) + k ] C n k p k ( 1 − p ) n − k = ∑ k = 0 n k ( k − 1 ) C n k p k ( 1 − p ) n − k + E ( X ) = ∑ k = 0 n k ( k − 1 ) n ! k ! ( n − k ) ! p k ( 1 − p ) n − k + n p = n ( n − 1 ) p 2 ∑ k = 0 n ( n − 2 ) ! ( k − 2 ) ! ( n − k ) ! p k − 2 ( 1 − p ) ( n − 2 ) − ( k − 2 ) + n p = n ( n − 1 ) p 2 [ p + ( 1 − p ) ] n − 2 + n p = n ( n − 1 ) p 2 + n p D ( X ) = E ( X 2 ) − [ E ( X ) ] 2 = n p ( 1 − p ) \begin{aligned} E(X)&=\sum_{k=0}^{n}k\cdot P\{X=k\} =\sum_{k=0}^{n}k\cdot C_n^kp^k(1-p)^{n-k} \\&=\sum_{k=1}^{n}k\cdot C_n^kp^k(1-p)^{n-k} =\sum_{k=1}^{n}k\cdot\frac{n!}{k!(n-k)!}p^k(1-p)^{n-k} \\&=np\sum_{k=1}^{n}\frac{(n-1)!}{(k-1)!(n-k)!}p^{k-1}(1-p)^{(n-1)-(k-1)} \\&\xlongequal{i=k-1}np\sum_{i=0}^{n-1}\frac{(n-1)!}{i![(n-1)-i]!}p^i(1-p)^{(n-1)-i} \\&=np\sum_{i=0}^{n-1}C_{n-1}^{i}p^i(1-p)^{(n-1)-i} =np[p+(1-p)]^{n-1}=np \\ \\E(X^2)&=\sum_{k=0}^{n}k^2\cdot C_n^kp^k(1-p)^{n-k} =\sum_{k=0}^{n}[k(k-1)+k]C_n^kp^k(1-p)^{n-k} \\&=\sum_{k=0}^{n}k(k-1)C_n^kp^k(1-p)^{n-k}+E(X) \\&=\sum_{k=0}^{n}k(k-1)\frac{n!}{k!(n-k)!}p^k(1-p)^{n-k}+np \\&=n(n-1)p^2\sum_{k=0}^{n}\frac{(n-2)!}{(k-2)!(n-k)!}p^{k-2}(1-p)^{(n-2)-(k-2)}+np \\&=n(n-1)p^2[p+(1-p)]^{n-2}+np=n(n-1)p^2+np \\ \\D(X)&=E(X^2)-[E(X)]^2=np(1-p) \end{aligned} E(X)E(X2)D(X)​=k=0∑n​k⋅P{X=k}=k=0∑n​k⋅Cnk​pk(1−p)n−k=k=1∑n​k⋅Cnk​pk(1−p)n−k=k=1∑n​k⋅k!(n−k)!n!​pk(1−p)n−k=npk=1∑n​(k−1)!(n−k)!(n−1)!​pk−1(1−p)(n−1)−(k−1)i=k−1 npi=0∑n−1​i![(n−1)−i]!(n−1)!​pi(1−p)(n−1)−i=npi=0∑n−1​Cn−1i​pi(1−p)(n−1)−i=np[p+(1−p)]n−1=np=k=0∑n​k2⋅Cnk​pk(1−p)n−k=k=0∑n​[k(k−1)+k]Cnk​pk(1−p)n−k=k=0∑n​k(k−1)Cnk​pk(1−p)n−k+E(X)=k=0∑n​k(k−1)k!(n−k)!n!​pk(1−p)n−k+np=n(n−1)p2k=0∑n​(k−2)!(n−k)!(n−2)!​pk−2(1−p)(n−2)−(k−2)+np=n(n−1)p2[p+(1−p)]n−2+np=n(n−1)p2+np=E(X2)−[E(X)]2=np(1−p)​

3.1.1.3 几何分布 $X\sim G(n,p)$

意义：

n次独立重复伯努利试验，成功率为 $p$，首次成功次数 $X$ 服从几何分布.

概率分布：

P { X = n } = p ( 1 − p ) n − 1   ( 0 < p < 1 ;   n = 0 , 1 , ⋯   ) P\{X=n\}=p(1-p)^{n-1}\ (0<p<1;\ n=0,1,\cdots) P{X=n}=p(1−p)n−1 (0<p<1; n=0,1,⋯)

数字特征：

$$E(X)=\frac{1}{p},D(X)=\frac{1-p}{p^2}$$

proof:
$$\begin{array}{rl}E(X)& =\sum _{n=0}^{+\infty }np(1-p{)}^{n-1}=p\cdot \frac{d}{\mathrm{d}(1-p)}\left[\sum _{n=0}^{+\infty }(1-p{)}^n\right]\\ & =p\cdot \frac{d}{\mathrm{d}(1-p)}\left[\frac{1}{1-(1-p)}\right]=\frac{1}{p}\\ E(X^2)& =\sum _{n=0}^{+\infty }{n}^{2}p(1-p{)}^{n-1}=p\cdot \frac{\mathrm{d}}{\mathrm{d}(1-p)}\left[\sum _{n=0}^{+\infty }n(1-p{)}^n\right]\\ & =p\cdot \frac{\mathrm{d}}{\mathrm{d}(1-p)}\left[(1-p)\cdot \sum _{n=0}^{+\infty }n(1-p{)}^{n-1}\right]\\ & =p\cdot \frac{\mathrm{d}}{\mathrm{d}(1-p)}\left\{(1-p)\cdot \frac{\mathrm{d}}{\mathrm{d}(1-p)}\left[\sum _{n=0}^{+\infty }(1-p{)}^n\right]\right\}\\ & \stackrel{x=1-p}{=}p\cdot {\left[x\cdot {\left(\frac{1}{1-x}\right)}^{\prime }\right]}^{\prime }=p\frac{1-x^2}{(1-x{)}^4}=\frac{2-p}{p^2}\\ D(X)& =E(X^2)-[E(X){]}^2=\frac{1-p}{p^2}\end{array}$$

3.1.1.4 超几何分布 $X\sim H(n,M,N)$

意义：

N 件产品中 M 件不合格，随机抽 n 件，发现 k 件不合格的概率.

概率分布：

P { X = n } = C M k C N − M n − k C N n   ( k = 1 , 2 , ⋯   , min ⁡ { n , M } ; n , M ⩽ n ) P\{X=n\}=\frac{C_{_M}^kC_{_{N-M}}^{n-k}}{C_{_N}^n}\ (k=1,2,\cdots,\min\{n,M\};n,M\leqslant n) P{X=n}=CN​n​CM​k​CN−M​n−k​​ (k=1,2,⋯,min{n,M};n,M⩽n)

数字特征：

$$E(X)=\frac{nM}{N},D(X)=\frac{nM}{N}\left(1-\frac{M}{N}\right)\frac{N-n}{N-1}$$

3.1.1.5 泊松分布 $X\sim P(\lambda )$

意义：

$\lambda$ 为单位时间(或单位面积)内随机事件的平均发生次数.

概率分布：
P { X = n } = λ k k ! e − λ   ( λ > 0 ; k = 0 , 1 , 2 , ⋯   ) \displaystyle P\{X=n\}=\frac{\lambda^k}{k!}e^{-\lambda}\ (\lambda>0;k=0,1,2,\cdots) P{X=n}=k!λk​e−λ (λ>0;k=0,1,2,⋯)

数字特征：
$$E(X)=D(X)=\lambda$$

proof:
$$\begin{array}{rl}E(X)& =\sum _{k=0}^{+\infty }k\cdot \frac{{\lambda }^k}{k!}{e}^{-\lambda }=\sum _{k=1}^{+\infty }\frac{{\lambda }^k}{(k-1)!}{e}^{-\lambda }\\ & =\lambda e^{-\lambda }\sum _{k=0}^{+\infty }\frac{{\lambda }^k}{k!}=\lambda e^{-\lambda }{e}^{\lambda }=\lambda \\ E(X^2)& =\sum _{k=0}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!}{e}^{-\lambda }=\sum _{k=1}^{+\infty }{k}^2\cdot \frac{{\lambda }^k}{k!}{e}^{-\lambda }=\lambda e^{-\lambda }\sum _{k=1}^{+\infty }k\cdot \frac{{\lambda }^{k-1}}{(k-1)!}\\ & =\lambda e^{-\lambda }{\left[\sum _{k=1}^{+\infty }\frac{{\lambda }^k}{(k-1)!}\right]}^{\prime }=\lambda e^{-\lambda }{\left[\lambda \sum _{k=0}^{+\infty }\frac{{\lambda }^k}{k!}\right]}^{\prime }\\ & =\lambda e^{-\lambda }(\lambda e^{\lambda }{)}^{\prime }=\lambda (1+\lambda )\\ D(X)& =E(X^2)-[E(X){]}^2=\lambda (1+\lambda )-{\lambda }^2=\lambda \end{array}$$

泊松积分：
$${\int }_0^{+\infty }{e}^{-x^2}\mathrm{d}x=\frac{\sqrt{\pi }}{2}$$

proof1:(标准正态分布)
$${\int }_0^{+\infty }\frac{1}{\sqrt{2\pi }}{e}^{-\frac{1}{2}{x}^2}\mathrm{d}x\stackrel{t=\frac{x}{\sqrt{2}}}{=}{\int }_0^{+\infty }\frac{1}{\sqrt{\pi }}{e}^{-t^2}\mathrm{d}t=\frac{1}{2}\Rightarrow {\int }_0^{+\infty }{e}^{-x^2}\mathrm{d}x=\frac{\sqrt{\pi }}{2}$$

proof2:(Gamma函数与余元公式)
$$\begin{array}{rl}{\int }_0^{+\infty }{e}^{-x^2}\mathrm{d}x& =\frac{1}{2}\Gamma \left(\frac{1}{2}\right)=\frac{1}{2}\sqrt{\Gamma {\left(\frac{1}{2}\right)}^2}=\frac{1}{2}\sqrt{\Gamma \left(\frac{1}{2}\right)\Gamma \left(1-\frac{1}{2}\right)}\\ & =\frac{1}{2}\sqrt{\frac{\pi }{\sin \left(\frac{\pi }{2}\right)}}=\frac{\sqrt{\pi }}{2}\end{array}$$

proof3:(累次积分)
$$\begin{array}{rl}{\int }_0^{+\infty }{e}^{-x^2}\mathrm{d}x& ={\int }_0^{+\infty }{e}^{-y^2}\mathrm{d}y=\sqrt{{\int }_0^{+\infty }{e}^{-x^2}\mathrm{d}x{\int }_0^{+\infty }{e}^{-y^2}\mathrm{d}y}\\ & =\sqrt{{\iint }_{[0,+\infty {]}^2}{e}^{-(x^2+y^2)}\mathrm{d}x\mathrm{d}y}=\sqrt{{\int }_0^{\frac{\pi }{2}}\mathrm{d}\theta {\int }_0^{+\infty }{e}^{-r^2}r\mathrm{d}r}\\ & \stackrel{t=r^2}{=}\sqrt{\frac{1}{2}{\int }_0^{\frac{\pi }{2}}\mathrm{d}\theta {\int }_0^{+\infty }{e}^{-t}\mathrm{d}t}=\sqrt{\frac{1}{2}{\int }_0^{\frac{\pi }{2}}\mathrm{d}\theta {\int }_0^{+\infty }{e}^{-t}\mathrm{d}t}\\ & =\sqrt{\frac{1}{2}{\int }_0^{\frac{\pi }{2}}\mathrm{d}\theta }=\frac{\sqrt{\pi }}{2}\end{array}$$

独立可加性：
$$X_{1,2}\sim P({\lambda }_{1,2})\text{且独立}\Rightarrow X_1+X_2\sim P({\lambda }_1+{\lambda }_2)$$

3.1.2 连续型r.v.

3.1.2.1 均匀分布 $X\sim U(a,b)$

概率密度与分布函数：

$$f(x)=\{\begin{array}{l}\frac{1}{b-a},a<x<b\\ \\ 0,otherwise\end{array}\Rightarrow F(x)=\{\begin{array}{l}0,x<a\\ {\int }_a^x\frac{\mathrm{d}t}{b-a}=\frac{x-a}{b-a},a⩽x<b\\ 1,x⩾b\end{array}$$

数字特征：
$$E(X)=\frac{a+b}{2},D(X)=\frac{(b-a{)}^2}{12}$$

proof:
$$\begin{array}{rl}E(X)& ={\int }_a^{b}x\cdot \frac{1}{b-a}\mathrm{d}x=\frac{a+b}{2}\\ E(X^2)& ={\int }_a^b{x}^2\cdot \frac{1}{b-a}\mathrm{d}x=\frac{b^2+ab+a^2}{3}\\ D(X)& =E(X^2)-[E(X){]}^2=\frac{(b-a{)}^2}{12}\end{array}$$

3.1.2.2 指数分布 $X\sim E(\lambda )$

概率密度与分布函数：

$$f(x)=\{\begin{array}{l}\lambda e^{-\lambda x},x>0\\ 0,x⩽0\end{array}\Rightarrow F(x)=\{\begin{array}{l}{\int }_0^x\lambda e^{-\lambda t}\mathrm{d}t=1-e^{-\lambda x},x>0\\ 0,x⩽0\end{array}(\lambda >0)$$

数字特征：

$$E(X)=\frac{1}{\lambda },D(X)=\frac{1}{{\lambda }^2}$$

proof:
$$\begin{array}{rl}E(X)& ={\int }_0^{+\infty }x\cdot \lambda e^{-\lambda x}\mathrm{d}x=\frac{1}{\lambda }{\int }_0^{+\infty }(\lambda x)e^{-(\lambda x)}\mathrm{d}(\lambda x)\\ & \stackrel{t=\lambda x}{=}-\frac{1}{\lambda }\left[t{e}^{-t}{|}_0^{+\infty }-{\int }_0^{+\infty }{e}^{-t}\mathrm{d}t\right]=\frac{1}{\lambda }\\ E(X^2)& =\frac{1}{{\lambda }^2}{\int }_0^{+\infty }(\lambda x{)}^2{e}^{-(\lambda x)}\mathrm{d}(\lambda x)\stackrel{t=\lambda x}{=}\frac{2}{{\lambda }^2}{\int }_0^{+\infty }t{e}^{-t}\mathrm{d}t=\frac{2}{{\lambda }^2}\\ D(X)& =E(X^2)-[E(X){]}^2=\frac{1}{{\lambda }^2}\end{array}$$

3.1.2.3 正态分布(高斯分布)

3.1.2.3.1 一般正态 $X\sim N(\mu ,{\sigma }^2)$

密度与分布：

$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2},x\in \mathbb{R}\Rightarrow F(x)=\frac{1}{\sqrt{2\pi }\sigma }{\int }_{-\infty }^x{e}^{-\frac{1}{2}{\left(\frac{t-\mu }{\sigma }\right)}^2}\mathrm{d}t$$

数字特征：
$$E(X)=\mu ,D(X)={\sigma }^2$$

proof:
$$\begin{array}{rl}E(X)& ={\int }_{-\infty }^{+\infty }x\cdot \frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2}\mathrm{d}x\stackrel{y=\frac{x-\mu }{\sigma }}{=}\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }(\sigma y+\mu )e^{-\frac{1}{2}{y}^2}\mathrm{d}y\\ & =\frac{\mu }{\sqrt{2\pi }}{\int }_{-\infty }^{+\infty }{e}^{-\frac{1}{2}{y}^2}\mathrm{d}y=\frac{\mu }{\sqrt{\pi }}\cdot 2{\int }_0^{+\infty }{\left(\frac{y}{\sqrt{2}}\right)}^{2\cdot \frac{1}{2}-1}{e}^{-{\left(\frac{y}{\sqrt{2}}\right)}^2}\mathrm{d}\left(\frac{y}{\sqrt{2}}\right)\\ & =\frac{\mu }{\sqrt{\pi }}\Gamma \left(\frac{1}{2}\right)=\frac{\mu }{\sqrt{\pi }}\cdot \sqrt{\pi }=\mu \end{array}$$

3.1.2.3.2 标准正态 $X\sim N(0,1)$

密度与分布：

$$\phi (x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{1}{2}{x}^2},x\in \mathbb{R}\Rightarrow F(x)\stackrel{u=\frac{t-\mu }{\sigma }}{=}\Phi (x)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{e}^{-\frac{1}{2}{u}^2}\mathrm{d}u$$

3.1.2.4 伽马分布 $X\sim Ga(\alpha ,\lambda )$

3.1.2.5 贝塔分布 $X\sim Be(a,b)$

3.2 二维r.v.

3.2.1 二维均匀分布 $(X,Y)\sim U(D)$

概率密度函数：

$$f(x,y)=\{\begin{array}{l}\frac{1}{{\iint }_{{}_D}\mathrm{d}x\mathrm{d}y},(x,y)\in D\\ \\ 0,otherwise\end{array}$$

3.2.2 二维正态分布 $(X,Y)\sim N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;{\rho }_{{}_{XY}})$

概率密度函数：

$$\begin{gathered} f(x,y)=\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\exp \left\{\frac{1}{2(1-{\rho }^2)}\left[\frac{(x-{\mu }_1{)}^2}{{\sigma }_1^2}-2\rho \frac{(x-{\mu }_1)(x-{\mu }_2)}{{\sigma }_1{\sigma }_2}+\frac{(x-{\mu }_2{)}^2}{{\sigma }_2^2}\right]\right\} \\ (-\infty <x,y<+\infty ) \end{gathered}$$

性质：

1. $({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;{\rho }_{{}_{XY}})=\left(EX,EY;DX,DY;\frac{cov(X,Y)}{\sqrt{DX}\sqrt{DY}}\right)$

2. (1) 独立$\begin{array}{c}\Rightarrow \\ \nLeftarrow \end{array}$不相关；不相关即二者没有线性关系，可能有其他关系
   (2) 若$(X,Y)\sim N$，则 $X,Y$独立 $\iff X,Y$ 不相关$\iff$ 相关系数 ${\rho }_{{}_{XY}}=0$

3. (1) $(X,Y)\sim N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;{\rho }_{{}_{XY}})\begin{array}{c}\Rightarrow \\ \nLeftarrow \end{array}\{\begin{array}{l}X\sim N({\mu }_1,{\sigma }_1^2)\\ Y\sim N({\mu }_2,{\sigma }_2^2)\end{array}$
   (2) $\{\begin{array}{l}X\sim N({\mu }_1,{\sigma }_1^2)\\ Y\sim N({\mu }_2,{\sigma }_2^2)\end{array}$且独立 $\Rightarrow (X,Y)\sim N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;0)$

4. 两个正态分布的线性组合仍然服从正态分布，即
   若 $\{\begin{array}{l}X\sim N({\mu }_1,{\sigma }_1^2)\\ Y\sim N({\mu }_2,{\sigma }_2^2)\end{array}$,则 $\forall a,b$ 不全为零，$aX+bY\sim N(a{\mu }_1+b{\mu }_2,a^2{\sigma }_1^2+b^2{\sigma }_2^2+2ab{\rho }_{{}_{XY}}{\sigma }_1{\sigma }_2)$

3.3 抽样分布

3.3.1 $\chi$ 分布

定义：
$$\{\begin{array}{l}{X}_i(i=1,\cdots ,n)独立\\ X_i\sim N(0,1)\end{array}\Rightarrow {\chi }^2=\sum _{k=1}^n{X}_i^2\sim {\chi }^2(n)$$

独立可加性：

${\chi }_1^2\sim {\chi }^2(n_1),{\chi }_2^2\sim {\chi }^2(n_2)$ 且独立 $\Rightarrow {\chi }_1^2+{\chi }_1^2\sim {\chi }^2(n_1+n_2)$

数字特征：

$$E({\chi }^2(n))=n,D({\chi }^2(n))=2n$$

推论：

1. $X\sim N(0,1)\Rightarrow X^2\sim {\chi }^2(1)$

2. 自由度为2的卡方分布为参数0.5的指数分布：${\chi }^2(2)=E\left(\frac{1}{2}\right)$

proof corollary2:
设 $X,Y\sim N(0,1)$ 且相互独立，$Z=X^2+Y^2\sim {\chi }^2(2)$，则

F Z ( z ) = P { Z ⩽ z } = P { X 2 + Y 2 ⩽ z } = { ∬ x 2 + y 2 ⩽ z 1 2 π e − x 2 + y 2 2 d x d y = 1 − e − z 2 , z > 0 0 , z ⩽ 0 \begin{aligned} F_{_Z}(z)&=P\{Z\leqslant z\}=P\{X^2+Y^2\leqslant z\} \\&=\begin{cases} \displaystyle\iint\limits_{x^2+y^2\leqslant z}\frac{1}{2\pi}e^{-\frac{x^2+y^2}{2}}\mathrm{d}x\mathrm{d}y=1-e^{-\frac{z}{2}}& ,z>0\\ \\ \qquad 0& ,z\leqslant 0\\ \end{cases} \end{aligned} FZ​​(z)​=P{Z⩽z}=P{X2+Y2⩽z}=⎩ ⎨ ⎧​x2+y2⩽z∬​2π1​e−2x2+y2​dxdy=1−e−2z​0​,z>0,z⩽0​​

故

$$Z\sim E\left(\frac{1}{2}\right)={\chi }^2(2)$$

分位点：
P { χ 2 > χ α 2 ( n ) } = ∫ χ α 2 ( n ) + ∞ f ( t ) d t = α = P { χ 2 ⩽ χ 1 − α 2 ( n ) } \displaystyle P\{\chi^2>\chi_{\alpha}^2(n)\}=\int_{\chi_{\alpha}^2(n)}^{+\infty}f(t)\mathrm{d}t=\alpha=P\{\chi^2\leqslant\chi_{1-\alpha}^2(n)\} P{χ2>χα2​(n)}=∫χα2​(n)+∞​f(t)dt=α=P{χ2⩽χ1−α2​(n)}

3.3.2 $t$ 分布

定义：
$$\{\begin{array}{l}X\sim N(0,1)\\ Y\sim {\chi }^2(n)\\ X,Y独立\end{array}\Rightarrow t=\frac{X}{\sqrt{Y/n}}\sim t(n)$$

性质：

1. $E(t(n))=0$

2. 密度函数为偶函数，$n$ 足够大时近似分布于 $N(0,1)$.

分位点：
P { t > t α ( n ) } = ∫ t α ( n ) + ∞ f ( t ) d t = α = P { t ⩽ t 1 − α ( n ) = − t α ( n ) } \displaystyle P\{t>t_{\alpha}(n)\}=\int_{t_{\alpha}(n)}^{+\infty}f(t)\mathrm{d}t=\alpha=P\{t\leqslant t_{1-\alpha}(n)=-t_{\alpha}(n)\} P{t>tα​(n)}=∫tα​(n)+∞​f(t)dt=α=P{t⩽t1−α​(n)=−tα​(n)}

3.3.3 $F$ 分布

定义：
$$\{\begin{array}{l}X\sim {\chi }^2(n_1)\\ Y\sim {\chi }^2(n_2)\\ X,Y独立\end{array}\Rightarrow F=\frac{X/n_1}{Y/n_2}\sim F(n_1,n_2)$$

性质：

1. $F\sim F(n_1,n_2)\Rightarrow \frac{1}{F}\sim F(n_1,n_2)$

2. $t=\frac{X}{\sqrt{Y/n}}\sim t(n)\Rightarrow t^2=\frac{X/1}{Y/n}\sim F(1,n)$

分位点：

1. P { F > F α ( n 1 , n 2 ) } = ∫ F α ( n 1 , n 2 ) + ∞ f ( t ) d t = α \displaystyle P\{F>F_{\alpha}(n_1,n_2)\}=\int_{F_{\alpha}(n_1,n_2)}^{+\infty}f(t)\mathrm{d}t=\alpha P{F>Fα​(n1​,n2​)}=∫Fα​(n1​,n2​)+∞​f(t)dt=α

2. $F_{\alpha }(n_1,n_2)=\frac{1}{F_{1-\alpha }(n_1,n_2)}$

---

附录

概率论与数理统计-第二部分
概率论与数理统计-第三部分