概率论与数理统计

概率论复习

第一章 随机事件及其概率

1.1 随机试验、样本空间

知道随机试验为E，样本空间为S就行

1.2 随机事件

事件中的关系区分三个:互不相容/互斥、对立事件、独立事件

记住三个公式：
$$P(\bar{A}\bar{B})=P(\overline{A\cap B})=1-P(A\cup B)$$

$$P(A\bar{B})=P(A-B)=P(A)-P(AB)$$

$$P(\bar{A}\cup \bar{B})=P(\overline{A\cap B})=1-P(AB)$$

1.3 随机事件的概率

随机事件的概率：$0\le P(A)\le 1$

概论性质：
$P(\bar{A})=1-P(A)$
$P(\varnothing )=0$
$P(A\cap B)=P(A)+P(B)-P(AB)$

1.4 古典概率模型

$P(A)=\frac{N(A)}{N(S)}$

1.5 条件概率

$P(A|B)=\frac{P(AB)}{P(B)}$

乘法公式：$P(AB)=P(A|B)P(B)$

全概率公式：$P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+...+P(A|B_n)P(B_n)$

贝叶斯公式：$P(B_i|A)=\frac{P(A{B}_i)}{P(A)}$

1.6 事件的独立性

两事件相互独立：$P(AB)=P(A)P(B)$

两事件互斥：$AB=\varnothing$

考点

三大考点：

1. 根据概率性质计算其他事件概率

2. 可等能概率模型/古典概率模型

3. 条件概率（三个公式）

第二章 随机变量及其分布（重点）

2.1 随机变量

定义：设随机试验的样本空间是S={e}.X=X(e)是定义在样本空间S上的实值单值函数，称X=X(e)为随机变量。

2.2 离散型随机变量及其分布

离散型概率分布律： P { X = x k } = p k , k = 1 , 2 , 3 … P\{X=x_k\}=p_k,k=1,2,3… P{X=xk​}=pk​,k=1,2,3…

满足以下两个条件

$P_k\ge 0,k=1,2,3...$

${\sum }_{i=1}^n{p}_k=1$

三种分布：二项分布，伯怒利分布(n=1)，泊松分布$(X\sim \pi (\lambda ))$

二项分布： P { X = k } = ( n k ) p k ( 1 − p ) n − k P\{X=k\}=\binom{n}{k}p^k \left(1-p\right)^{n-k} P{X=k}=(kn​)pk(1−p)n−k

伯怒利分布： P { X = k } = p k ( 1 − p ) n − k P\{X=k\}=p^k \left(1-p\right)^{n-k} P{X=k}=pk(1−p)n−k

泊松分布： P { X = k } = λ k e − λ k ! P\{X=k\}=\frac{\lambda^ke^{-\lambda}}{k!} P{X=k}=k!λke−λ​

定理：$np=\lambda (常数)$当n很大p很小时，二项分布的分布律近似于泊松分布的分布律

$\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k{\left(1-p\right)}^{n-k}\approx \frac{{\lambda }^k{e}^{-\lambda }}{k!}$

2.3 连续型随机变量及其概率密度

连续型概率密度函数： P { a ≤ X ≤ b } = ∫ a b f ( x ) d x P\{a\le X\le b\}=\int_{a}^{b}f(x)dx P{a≤X≤b}=∫ab​f(x)dx

满足以下三个条件：

$f(x)\ge 0,-\infty <x<\infty$

${\int }_a^{b}f(x)dx=1$

P { a ≤ X ≤ b } = ∫ a b f ( x ) d x P\{a\le X\le b\}=\int_{a}^{b}f(x)dx P{a≤X≤b}=∫ab​f(x)dx

三种分布：均匀分布$(X\sim U(a,b))$，指数分布，正态分布/高斯分布$(X\sim N(\mu ,{\sigma }^2))$

均匀分布X的概率密度：$f(x)=\{\begin{array}{ll}\frac{1}{b-a}& a<x<b\\ 0& ，其他\end{array}$

指数分布X的概率密度：$f(x)=\{\begin{array}{ll}\frac{1}{\theta }{e}^{-x/\theta }& x>0\\ 0& ，其他\end{array}$

正态分布X的概率密度：$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{\frac{-(x-\mu {)}^2}{2{\sigma }^2}},-\infty <x<\infty$

2.4 分布函数

P { a < X ≤ b } = P { X ≤ b } − P { X ≤ a } = F ( b ) − F ( a ) P\{a<X \le b\}=P\{X \le b\}-P\{X \le a\}=F(b)-F(a) P{a<X≤b}=P{X≤b}−P{X≤a}=F(b)−F(a)

离散型：$F(x)={\sum }_{x_k\le x}{p}_k$

连续型： F ( x ) = P { X ≤ x } = ∫ − ∞ x f ( x ) d x F(x)=P\{X\le x\}=\int_{- \infty}^{x}f(x)dx F(x)=P{X≤x}=∫−∞x​f(x)dx

2.5 二维随机变量

离散型随机变量(X,Y)的概率分布律/X，Y的联合分布律：

P { X = x i , Y = y j } = p i j , i , j = 1 , 2 , 3 … P\{X=x_i,Y=y_j\}=p_{ij},i,j=1,2,3… P{X=xi​,Y=yj​}=pij​,i,j=1,2,3…

满足以下两个条件

$P_{ij}\ge 0,i,j=1,2,3...$

${\sum }_{i=1}^{\infty }{\sum }_{j=1}^{\infty }{p}_{ij}=1$

连续型二维随机变量(X,Y)的概率密度函数/X，Y的联合概率密度函数：

P { a ≤ X ≤ b } = ∫ a b f ( x ) d x P\{a\le X\le b\}=\int_{a}^{b}f(x)dx P{a≤X≤b}=∫ab​f(x)dx

满足以下三个条件：

$f(x,y)\ge 0$

${\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }f(x,y)dxdy=1$

P { ( X , Y ∈ G ) } = ∫ ∫ G f ( x , y ) d x d y P\{(X,Y \in G)\}={\int\int}_{G}f(x,y)dxdy P{(X,Y∈G)}=∫∫G​f(x,y)dxdy

2.6 边缘分布

离散型：

P { X = x i } = ∑ i = 1 n P { X = x i , Y = y i } , i = 1 , 2 , 3... P\{X=x_i\}=\sum_{i = 1}^{n}P\{X=x_i,Y=y_i\},i=1,2,3... P{X=xi​}=∑i=1n​P{X=xi​,Y=yi​},i=1,2,3...

P { Y = y i } = ∑ i = 1 n P { X = x i , Y = y i } , i = 1 , 2 , 3... P\{Y=y_i\}=\sum_{i = 1}^{n}P\{X=x_i,Y=y_i\},i=1,2,3... P{Y=yi​}=∑i=1n​P{X=xi​,Y=yi​},i=1,2,3...

连续型：

$f_X(x)={\int }_{-\infty }^{+\infty }f(x,y)dy$

$f_Y(y)={\int }_{-\infty }^{+\infty }f(x,y)dx$

2.7 条件分布

离散型：

在$Y=y_i$ 条件下随机变量X的条件分布律

条件公式： P { X = x i ∣ Y = y i } = P { X = x i , Y = y i } P { Y = y i } , i = 1 , 2 , 3... P\{X=x_i|Y=y_i\}=\frac{P\{X=x_i,Y=y_i\}}{P\{Y=y_i\}},i=1,2,3... P{X=xi​∣Y=yi​}=P{Y=yi​}P{X=xi​,Y=yi​}​,i=1,2,3...

乘法公式： P = { X = x i , Y = y i } = P { X = x i ∣ Y = y i } P { Y = y i } {P=\{X=x_i,Y=y_i\}}=P\{X=x_i|Y=y_i\}{P\{Y=y_i\}} P={X=xi​,Y=yi​}=P{X=xi​∣Y=yi​}P{Y=yi​}

连续型：

在$Y=y$的条件下X的条件概率密度

条件公式：$f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}$

乘法公式：$f(x,y)=f_{X|Y}(x|y)f_Y(y)$

2.8 相互独立的随机变量

$已知f(x,y)⟶判断X,Y相互独立$

离散型： P { X = X i , Y = Y i } = P { X = X i } P { Y = Y i } P\{X=X_i,Y=Y_i\}=P\{X=X_i\}P\{Y=Y_i\} P{X=Xi​,Y=Yi​}=P{X=Xi​}P{Y=Yi​}

连续型：$f(x,y)=f_X(x)f_Y(y)$

2.9 随机变量函数的分布

考点

1. 连续型(离散型)求概率密度函数(分布律)里参数，并求概率；
2. 二维随机变量的联合、边缘、条件
3. 判断二维连续型或离散型)随机变量是否独立

第三章 随机变量的数字特征

3.1 数学期望

离散型：$E(X)={\sum }_{i=1}^{\infty }{x}_k{p}_k$.

连续型：$E(X)={\int }_{-\infty }^{\infty }xf(x)dx$

4个性质：

1. 设C是常数，则有$E(C)=C$
2. 设C是常数，X是随机变量，则有$E(CX)=CE(X)$
3. 设X,Y是两个任意的随机变量，则有$E(X+Y)=E(X)+E(Y)$
4. 设X,Y是两个相互独立的随机变量，则有$E(XY)=E(X)E(Y)$

3.2 方差

D ( X ) = E [ { X − E ( X ) ] 2 } D(X)=E[\{X-E(X)]^2\} D(X)=E[{X−E(X)]2}

$D(X)=E(X^2)-[E(X){]}^2$

4个性质：

1. 设C是常数，则有 D ( C ) = 0 → P { X = C } = 1 D(C)=0 \rightarrow P\{X=C\}=1 D(C)=0→P{X=C}=1
2. 设C是常数，X是随机变量，则有
   $D(CX)=C^{2}D(X)$
   $D(X+C)=D(X)$
3. 设X,Y是两个任意的随机变量，则有 D ( X + Y ) = D ( X ) + D ( Y ) + 2 E { ( X − E ( X ) ) ( Y − E ( Y ) ) } D(X+Y)=D(X)+D(Y)+2E\{(X-E(X))(Y-E(Y))\} D(X+Y)=D(X)+D(Y)+2E{(X−E(X))(Y−E(Y))}
4. 设X,Y是两个相互独立的随机变量，则有$D(X+Y)=D(X)+D(Y)$

3.3 协方差与相关系数

协方差： C o v ( X , Y ) = E { ( X − E ( X ) ) ( Y − E ( Y ) ) } Cov(X,Y)=E\{(X-E(X))(Y-E(Y))\} Cov(X,Y)=E{(X−E(X))(Y−E(Y))}

相关系数： ${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}},D(X)\ne 0,D(Y)\ne 0$

3.4 随机变量的另几个数字特征

矩和中心矩：设X为随机变量，若$E(X^k),k=1,2,3\dots$存在，称它为X的k阶原点矩或k阶矩，

若 E { [ X − E ( X ) ] 2 , k = 1 , 2 , 3... E\{[X-E(X)]^2,k=1,2,3... E{[X−E(X)]2,k=1,2,3...存在，称它为X的k阶中心矩

下分位数：$F(x_{\alpha })={\int }_{-\infty }^{x_{\alpha }}f(x)dx=a$

上分位数：$1-F(x_{\alpha })={\int }_{x_{\alpha }}^{\infty }f(x)dx=a$

中位数：$F(x_{0.5})=F(x_{0.5})={\int }_{x_{0.5}}^{\infty }f(x)dx=0.5$

分位数：对于任意整数$\alpha (0<\alpha <1)$,称满足条件

P { X < x α } ≤ α P\{X<x_\alpha\}\le \alpha P{X<xα​}≤α且 P { X ≤ α } ≥ α P\{X\le \alpha\} \ge \alpha P{X≤α}≥α的数$x_{\alpha }$为此分布的$\alpha$分位数或下$\alpha$分位数

3.5 切比雪夫不等式与大数定理

考点

连续型(离散型)数学期望、方差和协方差；(必考)

几种常见的E(X),D(X)

二项分布：$\{\begin{array}{l}E(X)=np\\ D(x)=np(1-p)\end{array}$

泊松分布：$\{\begin{array}{l}E(X)=\lambda \\ D(x)=\lambda \end{array}$

均匀分布：$\{\begin{array}{l}E(X)=\frac{a+b}{2}\\ D(x)=\frac{(b-a{)}^2}{12}\end{array}$

指数分布：$\{\begin{array}{l}E(X)=\theta \\ D(x)={\theta }^2\end{array}$

正态分布：$\{\begin{array}{l}E(X)=\mu \\ D(x)={\sigma }^2\end{array}$

第四章 正态分布

4.1 正态分布

设连续型随机变量X具有概率密度

$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{\frac{-(x-\mu {)}^2}{2{\sigma }^2}},-\infty <x<\infty$

其中$\mu (-\infty <\mu <\infty ),\sigma (\sigma >0)$为常数，则称X服从以$\mu ,\sigma$为参数的正态分布，正态分布又称高斯分布，记为$X\sim N(\mu ,{\sigma }^2)$

当$\mu =0,\sigma =1$时：N(0,1)称为X服从标准正态分布

设$X\sim N(0,1)$.对于任意整数$\alpha (0<\alpha <1)$满足条件 P { X > z α } = ∫ z α ∞ φ ( x ) d x = α P\{X>z_\alpha\}=\int_{z_\alpha}^{\infty}\varphi(x)dx=\alpha P{X>zα​}=∫zα​∞​φ(x)dx=α的数$z_{\alpha }$就是标准正态分布的上$\alpha$分位数
ϕ ( z α ) = 1 − P { X > z α } = 1 − α \phi(z_\alpha)=1-P\{X>z_\alpha\}=1-\alpha ϕ(zα​)=1−P{X>zα​}=1−α

设随机变量$X\sim N(\mu ,{\sigma }^2)$，则

$Y=aX+b\sim N(a\mu +b,(a\sigma {)}^2)$,其中$a(a\ne 0)$,b为常数

$Y=\frac{X-\mu }{\sigma }\sim N(0,1)$

4.2 正态随机变量的线性组合

设随机变量$Y_1\sim N(0,{\sigma }^2)$ , $Y_2\sim N(0,1),且Y_1,Y_2相互独立，则$ $Y_1+Y_2\sim N(0,{\sigma }^2+1)$

设随机变量$Y_1\sim N({\mu }_1,{\sigma }_1^2)$ ,$Y_2\sim N({\mu }_2,{\sigma }_2^2)且Y_1,Y_2相互独立,则$ $Y_1+Y_2\sim N({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$

4.3 中心极限定理

4.4 二维正态分布

考点

正态分布概率的计算和应用

一般的正态分布转化为标准正态分布计算

$X\sim N({\mu }_1,{\sigma }_1^2)$ $Y\sim N({\mu }_2,{\sigma }_2^2)$ $X-Y\sim N({\mu }_1-{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$

第五章 样本及抽样分布

5.1 随机样本

容量、样本

5.2 描述统计

用图形来显示数据：点图、茎叶图

用数字描述数据集：算术平均值、中位数、截尾均值

5.3 统计量

样本均值：$\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$

样本方差：$S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2=\frac{1}{n-1}({\sum }_{i=1}^n{X}_i^2-n{\bar{X}}^2)$

样本标准差：$S=\sqrt{S^2}=\sqrt{\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}$

样本k阶原点矩：$A_k=\frac{1}{n}{\sum }_{i=1}^n{X}_i^k,k=1,2,3...$

样本k阶中心矩：$B_k=\frac{1}{n}{\sum }_{i=1}^n(X_i-\bar{X}{)}^k,k=1,2,3...$

5.4 抽样分布

三分布：

1. ${\chi }^2$分布

   设$$X_1,X_2,X_3...X_n$$是来自总体N(0,1)的样本则统计量

   ${\chi }^2=X_1^2+X_2^2+X_3^2+...+X_n^2$

   服从自由度为n的${\chi }^2$分布.记为${\chi }^2\sim {\chi }^2(n)$

   ${\chi }^2$的可加性：设${\chi }_1^2\sim {\chi }^2(n_1)$,${\chi }_2^2\sim {\chi }^2(n_2)$,并且${\chi }_1^2,{\chi }_2^2$相互独立，则有${\chi }_1^2+{\chi }_2^2\sim {\chi }^2(n_1+n_2)$

   ${\chi }^2$分布的数学期望和方差：若${\chi }^2\sim {\chi }^2(n)$，则有
   $E({\chi }^2)=n,D({\chi }^2)=2n$

2. t分布

   设$X\sim N(0,1),Y\sim {\chi }^2(n)$,且X,Y相互独立，称随机变量$t=\frac{X}{\sqrt{Y/n}}$服从自由度为n的t分布，记为$t\sim t(n)$

3. F分布

   设$U\sim {\chi }^2(n_1),V\sim {\chi }^2(n_2)$,且U,V相互独立则称，$F=\frac{U/n_1}{V/n_2}$服从自由度为$(n_1,n_2)$的F分布，记为$F\sim F(n_1,n_2)$

四定理：

定理1 设$$X_1,X_2,X_3...X_n$$是来自总体$N(\mu ,{\sigma }^2)$的样本，$\bar{X}$是样本均值，则有

$\bar{X}\sim N(\mu ,{\sigma }^2)$

定理2

设$$X_1,X_2,X_3...X_n$$是来自总体$N(\mu ,{\sigma }^2)$的样本，$\bar{X}，S^2$是样本均值和样本方差，则有

$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$

$\bar{X}与S^2$独立

定理3 设$$X_1,X_2,X_3...X_n$$是来自总体$N(\mu ,{\sigma }^2)$的样本，$\bar{X}，S^2$是样本均值和样本方差，则有

$\frac{\bar{X}-u}{S/\sqrt{n}}\sim t(n-1)$

定理4 设$$X_1,X_2,X_3...X_n与Y_1,Y_2,Y_3...Y_n$$来自总体$N({\mu }_1,{\sigma }_1^2),N({\mu }_2,{\sigma }_2^2)$的样本，且这两个样本相互独立，设$\bar{X}=\frac{1}{n_1}{\sum }_{i=1}^{n_1}{X}_i,\bar{Y}=\frac{1}{n_2}{\sum }_{i=1}^{n_2}{Y}_2$分别是两个样本的均值,$\overline{S_1}=\frac{1}{n_1-1}{\sum }_{i=1}^{n_1}(X_i-\bar{X}{)}^2,\overline{S_2}=\frac{1}{n_2-1}{\sum }_{i=1}^{n_2}(Y_i-\bar{Y}{)}^2$分别是两个样本的方差，则有

$\frac{S_1^2/S_2^2}{{\sigma }_1^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$

考点

第六章 参数估计

6.1 参数的点估计

1. 矩估计法

   $A_l=\frac{1}{n}{\sum }_{i=1}^n{X}_i^l$

2. 最大似然估计法

   三步求 $L(\theta ),lnL(\theta ),\frac{dlnL(\theta )}{d(\theta )}$

考点

矩估计法和最大似然估计法求估计量(必考)