东北大学——应用数理统计——笔记

author: virgilwjj

我做的真题
https://download.csdn.net/download/m0_46107463/13689331

0 概率论基础

0.1 概率 $P(A)$

0.1.1 事件间的关系

事件独立：$P(AB)=P(A)P(B)$

事件互斥：$P(AB)=0$

条件概率：$P(B\mid A)=\frac{P(AB)}{P(A)}$

0.1.2 概率的计算公式

加法公式：

1. $P(A\cup B)=P(A)+P(B)-P(AB)$

2. $P(A\cup B\cup C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)$

3. 如果事件互斥：$P(A\cup B)=P(A)+P(B)$

减法公式：

1. $P(A-B)=P(A)-P(AB)$
2. 如果事件互斥：$P(A-B)=P(A)$

乘法公式：

1. $P(AB)=P(A)P(B\mid A)$

2. $P(ABC)=P(A)P(B\mid A)P(C\mid AB)$

3. 如果事件独立：$P(AB)=P(A)P(B)$

全概率公式：$P(A)={\sum }_{i=1}^{N}P(B_i)P(A\mid B_i)$

贝叶斯公式：$P(B_j\mid A)=\frac{P(B_j)P(A\mid B_j)}{{\sum }_{i=1}^{N}P(B_i)P(A\mid B_i)}$

0.2 随机变量 $X$

0.2.1 随机变量的概率分布 $P$

离散型——分布律： P { X = x k } = P k P\{X=x_{k}\}=P_{k} P{ X=xk​}=Pk​

特别地：

​ P { N = n } = P { N ⩽ n } − P { N ⩽ n − 1 } = F ( n ) − F ( n − 1 ) P\{N = n\}=P\{N \leqslant n\}-P\{N \leqslant n-1\}=F(n)-F(n-1) P{ N=n}=P{ N⩽n}−P{ N⩽n−1}=F(n)−F(n−1)

​ P { N = n } = P { N ⩾ n } − P { N ⩾ n + 1 } P\{N=n\}=P\{N \geqslant n\}-P\{N \geqslant n+1\} P{ N=n}=P{ N⩾n}−P{ N⩾n+1}

连续型——概率密度：$f(x)=\frac{dF(x)}{dx}$

0.2.2 随机变量的分布函数 $F(x)$

离散型： F ( x ) = P { X ⩽ x k } = ∑ x k ≤ x P k F(x)=P\{X \leqslant x_{k}\}=\sum_{x_{k} \le x}^{} P_{k} F(x)=P{ X⩽xk​}=∑xk​≤x​Pk​

连续型： F ( x ) = P { X ⩽ x } = ∫ − ∞ x f ( t ) d t F(x)=P\{X \leqslant x\}=\int_{-\infty}^{x} f(t) d t F(x)=P{ X⩽x}=∫−∞x​f(t)dt

0.2.3 随机变量的数学期望 $E(X)$

离散型：$E(X)={\sum }_{k=1}^{\infty }{x}_k{p}_k$

连续型：$E(X)={\int }_{-\infty }^{\infty }xf(x)dx$

性质：

1. $E(C)=C$

2. $E(CX)=CE(X)$

3. $E(X\pm Y)=E(X)\pm E(Y)$

4. 如果 X 与 Y 互不相关：$E(XY)=E(X)E(Y)$

0.2.4 随机变量的方差 $D(X)$

定义：$D(X)=E\left\{[X-E(X){]}^2\right\}$

性质：

1. $D(X)=E(x^2)-[E(x){]}^2$

2. $D(C)=0$

3. $D(aX+b)=a^{2}D(X)$

4. $D(X\pm Y)=D(X)+D(Y)\pm 2Cov(X,Y)$

5. 如果 X 与 Y 互不相关：$D(X\pm Y)=D(X)+D(Y)$

0.2.5 随机变量的矩 $a_k,b_k$

$k$ 阶原点矩：$a_k=E(X^k)$

$k$ 阶中心矩：$b_k=E\left\{[X-E(X){]}^k\right\}$

$k+l$ 阶混合矩：$E(X^k{Y}^l)$

$k+l$ 阶中心矩：$E\left\{[X-E(X){]}^k[X-E(X){]}^l\right\}$

性质：

1. $a_1=E(X)$
2. $a_2=E(X^2)$
3. $b_2=D(X)$

0.2.5 随机变量的协方差 $Cov(X,Y)$

定义： C o v ( X , Y ) = E { [ X − E ( X ) ] [ Y − E ( Y ) ] } Cov(X, Y)=E\left\{[X-E(X)] [Y-E(Y)]\right\} Cov(X,Y)=E{ [X−E(X)][Y−E(Y)]}

性质：

1. $Cov(X,Y)=E(XY)-E(X)E(Y)$

2. $Cov(X,Y)=Cov(Y,X)$

3. $Cov(aX,bY)=abCov(X,Y)$

4. $Cov(X_1\pm X_2,Y)=Cov(X_1,Y)\pm Cov(X_2,Y)$

相关系数： ${\rho }_{xy}=\frac{Cov(X,Y)}{\sqrt{D(X)D(Y)}}$

独立条件：$X$，$Y$ 都服从正态分布，且协方差为 $0$，可以推 $X$，$Y$ 独立

0.3 随机向量 $\eta$

随机向量：$\eta ={\left[\begin{array}{cccc}{X}_1& X_2& \dots & X_n\end{array}\right]}^T$

随机向量的期望向量：$\theta ={\left[\begin{array}{cccc}{\mu }_1& {\mu }_2& \dots & {\mu }_n\end{array}\right]}^T$

随机向量的协方差矩阵：

$\Sigma =\left[\begin{array}{cccc}Cov(X_1,X_1)& Cov(X_1,X_2)& \dots & Cov(X_1,X_n)\\ Cov(X_2,X_1)& Cov(X_2,X_2)& \dots & Cov(X_2,X_n)\\ \dots & \dots & \dots & \dots \\ Cov(X_n,X_1)& Cov(X_n,X_2)& \dots & Cov(X_n,X_n)\end{array}\right]$

$\eta \sim N(\theta ,\Sigma )$

性质：$A\eta \sim N(A\theta ,A\Sigma A^T)$

0.4 $Chebyshev$ 不等式

1. P { ∣ X − μ ∣ ⩾ ε } ⩽ σ 2 ε 2 P\{|X-\mu| \geqslant \varepsilon\} \leqslant \frac{\sigma^{2}}{\varepsilon^{2}} P{ ∣X−μ∣⩾ε}⩽ε2σ2​

2. P { ∣ X − μ ∣ < ε } ⩾ 1 − σ 2 ε 2 P\{|X-\mu| < \varepsilon\} \geqslant 1-\frac{\sigma^{2}}{\varepsilon^{2}} P{ ∣X−μ∣<ε}⩾1−ε2σ2​

0.5 中心极限定理

$\frac{{\sum }_{k=1}^n{X}_i-nE(X)}{\sqrt{nD(X)}}\sim N(0,1)$

author: virgilwjj

1 抽样分布

1.1 统计量 $T$

1.1.1 样本均值 $\bar{X}$

定义：$\bar{X}=\frac{1}{n}{\sum }_{i=1}^{n_1}{X}_i$

性质：

1. $E(\bar{X})=E(X)$
2. $D(\bar{X})=\frac{D(X)}{n}$

1.1.2 样本方差 $S^2$

定义：$S^2=\frac{1}{n-1}{\sum }_{i=1}^n{\left(X_i-\bar{X}\right)}^2$

性质：

1. $E(S^2)=D(X)$
2. $D(S^2)=\frac{2D(X{)}^2}{n-1}$

1.1.3 样本矩 $A_k,B_k$

$k$ 阶样本原点矩：$A_k=\frac{1}{n}{\sum }_{i=1}^{n_1}{X}_i^k$

$k$ 阶样本中心矩：$B_k=\frac{1}{n}{\sum }_{i=1}^n{\left(X_i-\bar{X}\right)}^k$

性质：

1. $A_1=\bar{X}$
2. $A_2=\frac{1}{n}{\sum }_{i=1}^n{X}_i^2$
3. $B_2=\frac{n-1}{n}{S}^2$

1.1.4. 顺序统计量 $X_{[i]}$

极小统计量： $X_{[1]}=min(X_i)$

极大统计量： $X_{[n]}=max(X_i)$

经验分布：$F_n(X)=\frac{k}{n},X_{[k]}⩽X<X_{[k+1]}$

性质：

1. P { X [ 1 ] ⩽ x } = 1 − P { X [ 1 ] > x } = 1 − [ P { X > x } ] n = 1 − [ 1 − P { X ⩽ x } ] n P\{X_{[1]} \leqslant x\}=1-P\{X_{[1]}>x\}=1-[P\{X > x\}]^{n}=1-[1-P\{X \leqslant x\}]^{n} P{ X[1]​