概率论与数理统计浙大版知识点个人总结

一、复习回顾

导数相关

$$secx=\frac{1}{cosx}$$

$$cscx=\frac{1}{sinx}$$

$$(tanx{)}^{\prime }=se{c}^{2}x=\frac{1}{si{n}^{2}x}$$

$$(secx{)}^{\prime }=(\frac{1}{cosx}{)}^{\prime }=secx\cdot tanx=\frac{sinx}{co{s}^{2}x}$$

$$(cscx{)}^{\prime }=(\frac{1}{sinx}{)}^{\prime }=-cscx\cdot cotx=-\frac{cosx}{si{n}^{2}x}$$

$$(arcsinx{)}^{\prime }=\frac{1}{\sqrt{1-si{n}^{2}x}}$$

$$(arccosx{)}^{\prime }=-\frac{1}{\sqrt{1-si{n}^{2}x}}=-(arcsinx{)}^{\prime }$$

$$(arctanx{)}^{\prime }=\frac{1}{1+x^2}$$

$$(arccotx{)}^{\prime }=-\frac{1}{1+x^2}=-(arctanx{)}^{\prime }$$

$$si{n}^{2}x=\frac{1-cos2x}{2}$$

$$co{s}^{2}x=\frac{1+cos2x}{2}$$

$$sin2x=2sinxcosx$$

$$cos2x=co{s}^{2}x-si{n}^{2}x=2co{s}^{2}x-1=1-2si{n}^{2}x$$

第一章

若AB=∅,则称A与B为互不相容事件(或互斥),也就是说事件A与B不可能同时发生.

对偶律：略

古典概型（等可能概型）

若某实验E满足

1.有限性：样本空间S＝{e1, e 2 , … , e n };

2.等可能性：P({e1})=P({e2})=…=P({en}).

则称E为等可能概型也叫古典概型.

有重复排列：共$n^k$种排列；无重复（不放回）排列：共==$A_n^k=n(n-1)\dots (n-k+1)$==种

组合抽：$C_n^k=\frac{A_n^k}{k!}=\frac{n!}{k!(n-k)!}$种

条件概率

定义
P { A ∣ B } = P { A B } P { B } P\{A|B\}=\frac{P\{AB\}}{P\{B\}} P{A∣B}=P{B}P{AB}​
事件A、B的乘法公式（利用乘法公式可计算几个事件同时发生的概率.）
P { A B } = P { A ∣ B } P { B } = P { B ∣ A } P { A } P\{AB\}=P\{A|B\}P\{B\}=P\{B|A\}P\{A\} P{AB}=P{A∣B}P{B}=P{B∣A}P{A}

P(ABC)＝ P(C|AB) P(B|A) P(A)

P(A1A2…An)＝P (An|A1…An－1) … P(A2|A1) P (A1)

全概率公式和贝叶斯公式

定理1 全概率公式(由原因推结果）

设$A_1，\dots ,A_n$ 是 S 的一个划分，且$P(A_i)>0，(i＝1，\dots ，n)，$则对任何事件B有
P { B } = ∑ i = 1 n P { B ∣ A i } P { A } P\{B\}=\sum_{i=1}^{n}P\{B|A_i\}P\{A\} P{B}=i=1∑n​P{B∣Ai​}P{A}

定理2 贝叶斯公式（由结果推原因）

设$A_1,\dots ,A_n$是S的一个划分,且$P(A_i)>0,(i＝1,\dots ,n)$，则对任何事件B，有
P { A j ∣ B } = P { B ∣ A j } P { A j } ∑ i = 1 n P { B ∣ A i } P { A i } , ( j = 1 , . . . , n ) P\{A_j|B\}=\frac{P\{B|A_j\}P\{A_j\}}{\sum_{i=1}^nP\{B|A_i\}P\{A_i\}},(j=1,...,n) P{Aj​∣B}=∑i=1n​P{B∣Ai​}P{Ai​}P{B∣Aj​}P{Aj​}​,(j=1,...,n)
在观察到事件B已发生的条件下，寻找导致B发生的每个原因的概率.

事件独立性

第二章随机变量及其分布

随机变量：略

分布律性质

$$p_k\ge 0,k=1,2,...;$$

$$\sum _{k=1}^{\infty }{p}_k=1;$$

常见分布律

0-1分布

二项分布（X~b(n,p))

设将试验独立重复进行n次,每次试验都只有两种可能的结果A和A,设事件A发生的概率为p,则称这n次试验为n重伯努利试验.

若以X表示n重伯努利试验事件A发生的次数，则称X服从参数为n, p的二项分布.
$$X\sim b(n,p)$$

P { X = k } = C n k p k ( 1 − p ) n − k P\{X=k\}=C_n^kp^k(1-p)^{n-k} P{X=k}=Cnk​pk(1−p)n−k

$$E(X)=np$$

$$D(X)=np(1-p)$$

泊松分布

$$X\sim \pi (\lambda )$$

P { X = k } = λ k e − λ k ! , k = 1 , 2 , . . . ( λ > 0 ) P\{X=k\}=\frac{\lambda ^k e^{-\lambda}}{k!},k=1,2,...(\lambda >0) P{X=k}=k!λke−λ​,k=1,2,...(λ>0)

$$E(X)=\lambda$$

$$E(X^2)=E[X(X-1)+X]=E[X(X-1)]+E(X)={\lambda }^2+\lambda$$

$$D(X)=\lambda$$

均匀分布

$$X\sim U(a,b)$$

$$f(x)=\{\begin{array}{l}\frac{1}{b-a},a<x<b\\ 0,其他\end{array}$$

$$E(X)=\frac{b+a}{2}$$

$$D(X)=\frac{(b-a{)}^2}{12}$$

$$E(X^2)=\frac{a^2+ab+b^2}{3}$$

指数分布

$$f(x)=\{\begin{array}{l}(\frac{1}{\theta }{e}^{-\frac{x}{\theta }}),x>0\\ 0,其他\end{array}$$

$$E(X)=\theta$$

$$D(X)={\theta }^2$$

$$E(X^2)=2{\theta }^2$$

正态分布

$$X\sim N(\mu ,{\sigma }^2)$$

$$f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{\frac{(x-\mu {)}^2}{2{\sigma }^2}},-\infty <x<\infty$$

$$E(X)=\mu$$

$$D(X)={\sigma }^2$$

标准正态分布

$\mu =0,\sigma =1$
$$X\sim N(0,1)$$
转化方法，若$X\sim N(\mu ,{\sigma }^2)$，则$Z=\frac{X-\mu }{\sigma }\sim N(0,1)$

分布函数

定义 F ( a ) = P { X < a } F(a)=P\{X<a\} F(a)=P{X<a}

单调不减性:

归一性：

任意x，$0\le F(x)\le 1$,且
$$F(-\infty )=\underset{x\to -\infty }{\lim }F(x)=0,F(+\infty )=\underset{x\to +\infty }{\lim }F(x)=1;$$
右连续性:

概率密度

非负性

归一性

与分布函数的联系：
P { a < x ≤ b } = ∫ a b f ( u ) d u = F ( b ) − F ( a ) P\{a<x\leq b\}=\int_a^bf(u)du=F(b)-F(a) P{a<x≤b}=∫ab​f(u)du=F(b)−F(a)
导数关系：
$$\frac{dF(x)}{dx}=f(x)$$
几何意义:

面积

各随机变量的概率密度

见上部分常见分布律

随机变量函数的分布

离散型

$$X\sim \left\{\begin{array}{llcc}{x}_1& x_2& ...& x_n\\ p_1& p_2& ...& p_n\end{array}\right\}$$

则
$$Y=g(X)\sim \left\{\begin{array}{llcc}g(x_1)& g(x_2)& ...& g(x_n)\\ p_1& p_2& ...& p_n\end{array}\right\}$$

连续型

举个栗子，$X\sim f_X(x)=\{\begin{array}{l}\frac{x}{8},0<x<4\\ 0,其他\end{array}$

求$Y=2X+8$的概率密度

解：
F Y ( y ) = P { Y ≤ y } = P { 2 X + 8 ≤ y } = P { X ≤ y − 8 2 } = F X ( y − 8 2 ) F_Y(y)=P\{Y\leq y\}=P\{2X+8\leq y\} \\ =P\{X\leq \frac{y-8}{2}\}=F_X(\frac{y-8}{2}) FY​(y)=P{Y≤y}=P{2X+8≤y}=P{X≤2y−8​}=FX​(2y−8​)
即
$$F_Y(y)=\{\begin{array}{l}\frac{y-8}{8},0<\frac{y-8}{8}<4\\ 0,others\end{array}$$
将$F_Y(y)$关于$Y$求导数，可得密度函数
$$f_Y(y)=\{\begin{array}{l}\frac{y-8}{32},8<x<16\\ 0,others\end{array}$$

第三章二维随机变量

联合分布、密度函数

F ( x , y ) = P { ( X ≤ x ) ∩ ( Y ≤ y ) } = P { X ≤ x , Y ≤ y } − ∞ < x , y < ∞ F(x,y)=P\{(X\leq x)\cap (Y\leq y)\}=P\{X\leq x,Y\leq y\} \\ -\infty<x,y<\infty F(x,y)=P{(X≤x)∩(Y≤y)}=P{X≤x,Y≤y}−∞<x,y<∞

1.单调非递减

2.$\forall x\in R,F(x,-\infty )=0;\forall y\in R,F(-\infty ,y)=0;F(-\infty ,-\infty )=0$

3.$F(\infty ,\infty )=1$

4.右连续性

联合分布律

针对离散型随机变量
$$\sum _{i\ge 1}^{\infty }\sum _{j\ge 1}^{\infty }{P}_{ij}=1$$

二维连续随机变量

对于二维随机变量 (X,Y) ，若存在一个非负可积函数 f(x,y)，使对$\forall (x,y)\in R^2,$其分布函数
$$F(x,y)={\int }_{-\infty }^y{\int }_{-\infty }^{x}f(u,v)dudv$$
则称 (X,Y) 为二维连续型随机变量 , f(x,y) 为 (X,Y)的概率密度(密度函数 ), 或 X 与 Y 的联合概率密度.

性质：

1.非负性；

2.归一性；（密度函数积分趋近于1，分布函数极限趋近于1）

3.若$f(x,y)$在$(x,y)\in R^2$处连续，则有$\frac{{\delta }^{2}F(x,y)}{\delta x\delta y}=f(x,y)$

4.对于任意平面区域$G\in R^2$,
$$P\{(X,Y)\in G\}={\int \int }_{(x,y)\in G}f(x,y)dxdy$$

二维均匀分布

若
$$f(x,y)=\{\begin{array}{l}\frac{1}{S_D},(x,y)\in D\subset R^2\\ \\ 0,others\end{array}$$
则称 (X,Y )在区域D上(内 )服从均匀分布.

性质：若（X，Y）在区域D上服从均匀分布，对D内任意区域G，有$P\{(X,Y)\in G\}=\frac{S_G}{S_D}$

二维正态分布

分布函数推广

边缘分布(函数)

F X ( x ) = P { X < x } = P { X ≤ x , Y < ∞ } = F X Y ( x , ∞ ) F_X(x)=P\{X<x\}=P\{X\leq x,Y<\infty\}=F_{XY}(x,\infty) FX​(x)=P{X<x}=P{X≤x,Y<∞}=FXY​(x,∞)

F Y ( y ) = P { Y < y } = P { X < ∞ , Y ≤ y } = F X Y ( ∞ , y ) F_Y(y)=P\{Y<y\}=P\{X<\infty,Y\leq y \}=F_{XY}(\infty,y) FY​(y)=P{Y<y}=P{X<∞,Y≤y}=FXY​(∞,y)

边缘密度(函数)

$$f_X(x)={\int }_{-\infty }^{+\infty }f(x,y)dy$$

$$f_Y(y)={\int }_{-\infty }^{+\infty }f(x,y)dx$$

条件分布

条件概率推广到随机变量，设有两个随机变量X,Y，在给定Y取某个或某些值的条件下，X的概率分布是条件分布。

离散型：

设（X,Y)是二维离散型随机变量，对于固定的j，若 P { Y = y i } > 0 P\{Y=y_i\}>0 P{Y=yi​}>0，则称
P { X = x i ∣ Y = y j } = P { X = x i , Y = y j } P { Y = y j } = P i j P j , j = 1 , 2 , . . . P\{X=x_i|Y=y_j\}=\frac{P\{X=x_i,Y=y_j\}}{P\{Y=y_j\}}=\frac{P_{ij}}{P_j},j=1,2,... P{X=xi​∣Y=yj​}=P{Y=yj​}P{X=xi​,Y=yj​}​=Pj​Pij​​,j=1,2,...
是在$Y=y_i$的条件下随机变量X的条件分布律

连续型：

对任意固定的$y,f_Y(y)>0$,则定义已知$Y=y$的条件下，$X$的条件密度函数为
f X ∣ Y { x ∣ y } = f ( x , y ) f Y ( y ) f_{X|Y}\{x|y\}=\frac{f(x,y)}{f_Y(y)} fX∣Y​{x∣y}=fY​(y)f(x,y)​

定义在$Y=y$下，$X$的条件分布函数为
F X ∣ Y ( x ∣ y ) = P { X ≤ x ∣ Y ≤ y } = ∫ − ∞ x f X ∣ Y ( u ∣ y ) d u F_{X|Y}(x|y)=P\{X\leq x|Y\leq y\}=\int^x_{-\infty}f_{X|Y}(u|y)du FX∣Y​(x∣y)=P{X≤x∣Y≤y}=∫−∞x​fX∣Y​(u∣y)du

相互独立的随机变量

P { X ≤ x , Y ≤ y } = P { X ≤ x } P { Y ≤ y } P\{X\leq x,Y\leq y\}=P\{X\leq x\}P\{Y\leq y\} P{X≤x,Y≤y}=P{X≤x}P{Y≤y}

则称X，Y相互独立

（注：事件A,B相互独立的定义是$P(AB)=P(A)P(B)$

等价定义
$$F(x,y)=F_X(x)F_Y(y)$$

$$f(x,y)=f_X(x)f_Y(y)$$

n维随机变量的边缘分布与独立性

$$F_{X_1,X_2}(x_1,x_2)=F(x_1,x_2,+\infty ,+\infty ,...,+\infty )$$

$$f_{X_1}={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }...{\int }_{-\infty }^{+\infty }f(x_1,x_2,...,x_n)d{x}_{2}d{x}_3...d{x}_n$$

$$f_{X_1,X_2}(x_1,x_2)={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }...{\int }_{-\infty }^{+\infty }f(x_1,x_2,...,x_n)d{x}_{3}d{x}_4...d{x}_n$$

$F(x_1,...,x_n)=F_{X_1}(x_1)F_{X_2}(x_2)...F_{X_n}(x_n)$时称$X_1,X_2,...,X_n$是独立的

多维随机变量函数的分布

$X\sim N(0,1),Y\sim N(0,1)$，令$Z=\sqrt{X^2+Y^2}$，求$Z$的概率密度函数

和的分布

若X 与 Y 相互独立，则 Z = X＋Y 的密度函数
$$f_Z(z)={\int }_{-\infty }^{\infty }{f}_X(z-y)f_Y(y)dy={\int }_{-\infty }^{\infty }{f}_X(x)f_Y(z-x)dx$$
我们称上式为

函数$f_X(x)与f_Y(y)的卷积，记作f_X(x)\ast f_Y(y)$

因为相互独立，$f_X()f_Y()=f_{X,Y}()$,上式也可以写成
$$f_Z(z)={\int }_{-\infty }^{\infty }f(x,z-x)dx$$

$$f_Z(z)={\int }_{-\infty }^{\infty }f(z-y,y)dy$$

例题

$X\sim U(0,1),Y\sim U(0,1),XY相互独立，Z+X+Y,求Z的概率密度$

定理

$X_1\sim ({\mu }_1,{\sigma }_1^2),X_2\sim ({\mu }_2,{\sigma }_2^2),...,Z=X_1+X_2+...,则Z\sim ({\mu }_1+{\mu }_2+...,{\sigma }_1^2+{\sigma }_2^2+...)$

乘除分布

$(X,Y)二维随机变量，有概率密度f(x,y),Z=\frac{X}{Y}、Z=XY仍为随机变量$
$$f_{\frac{Y}{X}}={\int }_{-\infty }^{\infty }|x|f(x,xz)dx$$

$$f_{XY}={\int }_{-\infty }^{\infty }|\frac{1}{x}|f(x,\frac{z}{x})dx$$

$若X和Y相互独立，则可化为$
$$f_{\frac{Y}{X}}={\int }_{-\infty }^{\infty }|x|f_X(x)f_Y(xz)dx$$

$$f_{XY}={\int }_{-\infty }^{\infty }|\frac{1}{x}|f_X(x)f_Y(\frac{z}{x})dx$$

max,min分布

M = m a x { X , Y } , N = m i n { X , Y } M=max\{X,Y\},N=min\{X,Y\} M=max{X,Y},N=min{X,Y}
F m a x ( z ) = P { M ≤ z } = P { X ≤ z , Y ≤ z } F_{max}(z)=P\{M\leq z\}=P\{X\leq z,Y\leq z\} Fmax​(z)=P{M≤z}=P{X≤z,Y≤z}

F m i n ( z ) = P { N ≤ z } = 1 − P { N > z } = 1 − P { X > Z , Y > z } F_{min}(z)=P\{N\leq z\}=1-P\{N>z\}=1-P\{X>Z,Y>z\} Fmin​(z)=P{N≤z}=1−P{N>z}=1−P{X>Z,Y>z}

若$X,Y$相互独立，
F m a x ( z ) = P { X ≤ z } P { Y ≤ z } = F X ( z ) F Y ( z ) F_{max}(z)=P\{X\leq z\}P\{Y\leq z\}=F_X(z)F_Y(z) Fmax​(z)=P{X≤z}P{Y≤z}=FX​(z)FY​(z)

F m i n ( z ) = 1 − P { X > z } P { Y > z } = 1 − [ 1 − F X ( z ) ] [ 1 − F Y ( z ) ] F_{min}(z)=1-P\{X>z\}P\{Y>z\}=1-[1-F_X(z)][1-F_Y(z)] Fmin​(z)=1−P{X>z}P{Y>z}=1−[1−FX​(z)][1−FY​(z)]

随机变量的数字特征

数学期望

对于离散型随机变量， P { X = x i } = p i , i = 1 , 2 , . . . P\{X=x_i\}=p_i,i=1,2,... P{X=xi​}=pi​,i=1,2,...，若级数${\sum }_{i=1}^{\infty }{x}_i{p}_i绝对收敛，则E(X)={\sum }_{i=1}^{\infty }{x}_i{p}_i$

对于连续型随机变量，$若{\int }_{-\infty }^{\infty }xf(x)dx绝对收敛，则E(X)={\int }_{-\infty }^{\infty }xf(x)dx$

复习回顾：（见第二章常见分布律）

若 X ∼ π ( λ ) , 即 P { X = k } = λ k e − λ k ! , k = 1 , 2 , . . . ( λ > 0 ) 若X\sim \pi(\lambda),即P\{X=k\}=\frac{\lambda ^k e^{-\lambda}}{k!},k=1,2,...(\lambda >0) 若X∼π(λ),即P{X=k}=k!λke−λ​,k=1,2,...(λ>0)

$$则E(X)=\lambda ,D(X)=\lambda$$

$$若X\sim U(a,b),即f(x)=\{\begin{array}{l}\frac{1}{b-a},a<x<b\\ 0,其他\end{array}$$

$$则E(X)=\frac{b+a}{2},D(X)=\frac{(b-a{)}^2}{12}$$

$$\begin{gathered} 若X\sim 参数为\theta 的指数分布，即 \\ f(x)=\{\begin{array}{l}(\frac{1}{\theta }{e}^{-\frac{x}{\theta }}),x>0\\ 0,其他\end{array} \end{gathered}$$

$$E(X)=\theta ,D(X)={\theta }^2$$

$$\begin{gathered} 若X\sim N(\mu ,{\sigma }^2)，即 \\ f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{\frac{(x-\mu {)}^2}{2{\sigma }^2}},-\infty <x<\infty \end{gathered}$$

$$则E(X)=\mu ,D(X)={\sigma }^2$$

随机变量函数的期望

X 是随机离散变量， P { X = x k } = p k , k = 1 , 2 , . . . ，若（略）收敛，则 X是随机离散变量，P\{X=x_k\}=p_k,k=1,2,...，若（略）收敛，则 X是随机离散变量，P{X=xk​}=pk​,k=1,2,...，若（略）收敛，则
$$E(Y)=E[g(X)]=\sum _{k=1}^{\infty }g(x_k)p_k.$$

$X是连续随机变量，概率密度f(x)，若（略）收敛，则$
$$E(Y)=E[g(x)]={\int }_{-\infty }^{\infty }g(x)f(x)dx.$$
$X,Y是连续随机变量，概率密度f(X,Y)，若Z=g(X,Y)，则$
$$E(Z)=E[g(X,Y)]={\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }g(x,y)f(x,y)dxdy$$

二维随机变量的期望

对于$f_{X,Y}(x,y)=\{\begin{array}{l}???,(x,y)\in D,\\ 0,其他\end{array}$，有
$$\begin{gathered} E(X)=\int \int xf(x,y)dxdy \\ E(Y)=\int \int yf(x,y)dxdy \\ E(X,Y)=\int \int xyf(x,y)dxdy \end{gathered}$$

数学期望的性质

$若C是常数，X,Y是随机变量，则
$$\begin{gathered} E(C)=C \\ E(X+C)=E(X)+C \\ E(CX)=CE(X) \\ E(X+Y)=E(X)+E(Y) \\ E(\sqrt{X})=\sqrt{E(X)} \\ 若X,Y相互独立，则E(XY)=E(X)E(Y) \end{gathered}$$

方差

$定义：D(X)=E\{[X-E(X){]}^2\}，展开为D(X)=E(X^2)-[E(X){]}^2，方差的记号是{\sigma }^2，不是\sigma ,\sigma 是标准差的记号$

性质
$$\begin{gathered} C是常数，X,Y是随机变量，则 \\ D(C)=0 \\ D(CX)=C^{2}D(X) \\ D((X+C)=D(X) \\ D(X+Y)=D(X)+D(Y)+2E\{(X-E(X))(Y-E(Y))\} \\ =D(X)+D(Y)+2Cov(X,Y) \\ 若X,Y相互独立，则D(X+Y)=D(X)+D(Y) \end{gathered}$$

切比雪夫不等式

P { ∣ X − μ ∣ ≥ ϵ } ≤ σ 2 ϵ 2 P\{|X-\mu|\geq \epsilon \}\leq \frac{\sigma ^2}{\epsilon^2} P{∣X−μ∣≥ϵ}≤ϵ2σ2​

P { ∣ X − μ ∣ < ϵ } ≥ 1 − σ 2 ϵ 2 P\{|X-\mu|<\epsilon\}\geq1-\frac{\sigma^2}{\epsilon^2} P{∣X−μ∣<ϵ}≥1−ϵ2σ2​

协方差和相关系数

定义$协方差Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\},相关系数\rho =\frac{Cov(X,Y)}{\sqrt{D(X)D(Y)}}$
$$Cov(X,Y)=E(XY)-E(X)E(Y)$$
若X，Y不相关，则$Cov(X,Y)=0；\rho =0表明X,Y线性不相关$，X，Y相互独立是X,Y不相关的一种特殊情况

二维正态分布的不相关性与独立性等价；

矩、协方差矩阵

矩

$X的k阶原点矩（k阶矩）：E(X^k),k=1,2,...$

$X的k阶中心矩：E\{[X-E(X){]}^k\},k=1,\mathrm{2...}$

$X,Y的k+l阶混合矩：E(X^k{Y}^l),k,l=1,2,...$

$X,Y的k+l阶混合中心矩：E\{[X-E(X){]}^k[Y-E(Y){]}^l\},k,l=1,2,...$

协方差矩阵

$n维随机变量(X_1,X_2,...,X_n)的$二阶混合中心矩$c_{ij}=Cov(X_i,X_j),i,j=1,2,...,n$若都存在，则称矩阵
KaTeX parse error: Undefined control sequence: \matrix at position 11: C=\left[ \̲m̲a̲t̲r̲i̲x̲{ c_{11}&c_{12}…
$为n维随机变量（X_1，X_2，...,X_n)的协方差矩阵$

大数定律、中心极限定理(极简)

大数定律

弱大数定理（辛勤大数定理）
$$X_1,X_2,...,X_n独立同分布，E(X_i)=\mu ,则序列\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i依概率收敛于\mu$$
依概率收敛于就是 lim ⁡ n → ∞ P { ∣ 1 n ∑ k = 1 n X i − μ ∣ < ϵ } = 1 \lim_{n\rightarrow \infty}P\{|\frac{1}{n}\sum^n_{k=1}X_i-\mu|<\epsilon\}=1 limn→∞​P{∣n1​∑k=1n​Xi​−μ∣<ϵ}=1

伯努利大数定律
f A 是 n 次独立重复实验 A 发生的次数， p 是 A 发生的概率， ϵ > 0 , 则 lim ⁡ n → ∞ P { ∣ f A n − p ∣ < ϵ } = 1 f_A是n次独立重复实验A发生的次数，p是A发生的概率，\epsilon >0,则\\ \lim_{n\rightarrow\infty}P\{|\frac{f_A}{n}-p|<\epsilon\}=1 fA​是n次独立重复实验A发生的次数，p是A发生的概率，ϵ>0,则n→∞lim​P{∣nfA​​−p∣<ϵ}=1
这表明n充分大时频率趋近于概率

中心极限定理（极简）

独立同分布的中心极限定理

$$\begin{gathered} 独立同分布的随机变量X_1,X_2,...,X_n和的标准化变量为 \\ \frac{{\sum }_{k=1}^n{X}_k-n\mu }{\sqrt{n}\sigma } \end{gathered}$$

$$这个标准化变量在n充分大时近似服从N(0,1)$$

由于
$$\frac{{\sum }_{k=1}^n{X}_k-n\mu }{\sqrt{n}\sigma }=\frac{\frac{1}{n}{\sum }_{k=1}^n{X}_k-\mu }{\frac{\sigma }{\sqrt{n}}}=\frac{\bar{X}-\mu }{\frac{\sigma }{\sqrt{n}}}$$
故n充分大时，
$$\frac{\bar{X}-\mu }{\frac{\sigma }{\sqrt{n}}}{\sim }^{近似地}\sim N(0,1)或\bar{X}{\sim }^{近似地}\sim N(\mu ,{\sigma }^2/n)$$

李雅普诺夫定理

若定义$B_n$
$$B_n^2=\sum _{k=1}^n{\sigma }_k^2$$
在定理的条件下，随机变量
$$Z_n=\frac{{\sum }_{k=1}^n{X}_k-{\sum }_{k=1}^n{\mu }_k}{B_n}$$
当n很大时近似服从正态分布N(0,1)

棣莫弗-拉普拉斯定理

正态分布是二项分布的极限分布

例：$一个加法器同时收到20个噪声电压V_k(k=1,2,3,...,20)，设它们是相互独立的随机变量，且都在区间(0,10)上服从均匀分布，$

记 V = ∑ k = 1 20 V k ，求 P { V > 105 } 的近似值 记V=\sum^{20}_{k=1}V_k，求P\{V>105\}的近似值 记V=∑k=120​Vk​，求P{V>105}的近似值

解：

$易知\mu =E(V_k)=5,{\sigma }^2=D(V_k)=100/12,(k=1,2,...20)，由\frac{{\sum }_{k=1}^n{X}_k-n\mu }{\sqrt{n}\sigma }\sim N(0,1)知随机变量$
$$Z=\frac{{\sum }_{k=1}^n{V}_k-20\times 5}{\sqrt{20}/\sqrt{100/12}}=\frac{V-20\times 5}{\sqrt{20}/\sqrt{100/12}}\sim N(0,1)$$
于是
P { V > 105 } = P { V − 20 × 5 20 / 100 / 12 > 105 − 20 × 5 20 / 100 / 12 } = P { V − 100 20 / 100 / 12 > 0.387 } = 1 − P { V − 100 20 / 100 / 12 ≤ 0.387 } = 1 − Φ ( 0.387 ) = 0.348 P\{V>105\}=P\{\frac{V-20\times5}{\sqrt{20}/\sqrt{100/12}}>\frac{105-20\times5}{\sqrt{20}/\sqrt{100/12}}\}\\ =P\{\frac{V-100}{\sqrt{20}/\sqrt{100/12}}>0.387\}\quad\\ =1-P\{\frac{V-100}{\sqrt{20}/\sqrt{100/12}}\leq0.387\}\\ =1-\Phi(0.387)\quad\quad\quad\quad\quad\quad\quad\quad\quad\\ =0.348\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad P{V>105}=P{20 ​/100/12 ​V−20×5​>20 ​/100/12 ​105−20×5​}=P{20 ​/100/12 ​V−100​>0.387}=1−P{20 ​/100/12 ​V−100​≤0.387}=1−Φ(0.387)=0.348
理的条件下，随机变量
$$Z_n=\frac{{\sum }_{k=1}^n{X}_k-{\sum }_{k=1}^n{\mu }_k}{B_n}$$
当n很大时近似服从正态分布N(0,1)

棣莫弗-拉普拉斯定理

正态分布是二项分布的极限分布

例：$一个加法器同时收到20个噪声电压V_k(k=1,2,3,...,20)，设它们是相互独立的随机变量，且都在区间(0,10)上服从均匀分布，$

记 V = ∑ k = 1 20 V k ，求 P { V > 105 } 的近似值 记V=\sum^{20}_{k=1}V_k，求P\{V>105\}的近似值 记V=∑k=120​Vk​，求P{V>105}的近似值

解：

$易知\mu =E(V_k)=5,{\sigma }^2=D(V_k)=100/12,(k=1,2,...20)，由\frac{{\sum }_{k=1}^n{X}_k-n\mu }{\sqrt{n}\sigma }\sim N(0,1)知随机变量$
$$Z=\frac{{\sum }_{k=1}^n{V}_k-20\times 5}{\sqrt{20}/\sqrt{100/12}}=\frac{V-20\times 5}{\sqrt{20}/\sqrt{100/12}}\sim N(0,1)$$
于是
P { V > 105 } = P { V − 20 × 5 20 / 100 / 12 > 105 − 20 × 5 20 / 100 / 12 } = P { V − 100 20 / 100 / 12 > 0.387 } = 1 − P { V − 100 20 / 100 / 12 ≤ 0.387 } = 1 − Φ ( 0.387 ) = 0.348 P\{V>105\}=P\{\frac{V-20\times5}{\sqrt{20}/\sqrt{100/12}}>\frac{105-20\times5}{\sqrt{20}/\sqrt{100/12}}\}\\ =P\{\frac{V-100}{\sqrt{20}/\sqrt{100/12}}>0.387\}\quad\\ =1-P\{\frac{V-100}{\sqrt{20}/\sqrt{100/12}}\leq0.387\}\\ =1-\Phi(0.387)\quad\quad\quad\quad\quad\quad\quad\quad\quad\\ =0.348\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad P{V>105}=P{20 ​/100/12 ​V−20×5​>20 ​/100/12 ​105−20×5​}=P{20 ​/100/12 ​V−100​>0.387}=1−P{20 ​/100/12 ​V−100​≤0.387}=1−Φ(0.387)=0.348

抽样分布

${\chi }^2分布$

待更新

$t分布$

待更新

$F分布$

待更新

$正态总体的样本均值与样本方差的分布$

待更新

参数估计

待更新