概率论与数理统计基本知识点总结

概率论的基本概念

样本空间和随机事件

样本空间

随机试验的所有可能结果构成的集合成为样本空间, 记为S={e},

S中的e作为样本点

例1:

• 一枚硬币抛一次

  S = {正面, 反面}

• 记录一批产品的寿命x:

  S = {x : x>=0}

• 记录某地一昼夜最高温度x,最低温度y

  S = {(x,y) : a<=y<=x<=b}

随机事件

样本空间S的子集A成为随机事件A, 简称事件A, 当前仅当A中的某个样本点发生时 称事件A发生

事件A的表示可以用集合, 也可以用语言表达

• 如果把S看做事件, 则每次试验S总是发生, 称S为必然事件
• 基本事件: 事件只含有一个样本
• 空集: 不包含任何样本点, 记为$\varnothing$, 则每次试验$\varnothing$都不发生, 成$\varnothing$为不可能事件

事件的关系(包含,相等)

1. A$\subset$B: 事件A发生一定导致事件B发生(因为A是B的子集)
2. A = B $\Leftrightarrow $ A$\subset$B 且 B$\subset$A

事件的运算及关系

1. 和事件, 记为A$\cup$B

   A$\cup$B = {x | x$\in$A 或 x$\in$B}, A与B至少有一个发生

2. 积事件,记为A$\cap$B, A$\cdot$B,AB

   A$\cap$B = {x | x$\in$A 且 x$\in$B}, A与B同时发生

${\bigcup }_{i=1}^n{A}_i$ 表示$A_1$,$A_2$,…,$A_n$至少有一个发生

${\bigcap }_{i=1}^n{A}_i$ 表示$A_1$,$A_2$,…,$A_n$同时发生

3. 不相容(互斥): AB=$\varnothing$

4. 差事件: A - B = {x | x$\in$A 且 x$\notin$B}

5. A的逆事件,记为$\overline{A}$, 也称A的互逆, 对立事件

   A$\cup$$\overline{A}$=S, A$\overline{A}$=$\varnothing$, $\overline{\overline{A}}$ = A

A与B的差事件可以表示为:

A-B = A$\overline{B}$ = A$\cup$B-B = A-AB

运算法则

• 交换律: A$\cup$B = B$\cup$A, A$\cap$B = B$\cap$A

• 结合律: A$\cup$(B$\cup$C) = (A$\cup$B)$\cup$C, A$\cap$(B$\cap$C) = (A$\cap$B)$\cap$C

• 分配率: A$\cup$(B$\cap$C) = (A$\cup$B) $\cap$ (A$\cup$C), A$\cap$(B$\cup$C) = (A$\cap$B) $\cup$ (A$\cap$C)

• 对偶律(德*摩根定律): $\overline{A\cup B}$ = $\overline{A}$ $\cap$ $\overline{B}$, $\overline{A\cap B}$ = $\overline{A}$ $\cup$ $\overline{B}$

  对偶律推广: ${\bigcap }_{i=1}^n{A}_i$= ${\bigcup }_{i=1}^n\overline{A_i}$= $\overline{A_1}\cup \overline{A_2}\cdots \cup \overline{A_n}$;

  ${\bigcup }_{i=1}^n{A}_i$= ${\bigcap }_{i=1}^n\overline{A_i}$= $\overline{A_1}\cap \overline{A_2}\cdots \cap \overline{A_n}$ = $\overline{A_1}\overline{A_2}\cdots \overline{A_n}$

频率和概率

频率

def: $f_n(A)=\frac{n_A}{n}$; 其中$n_A$是A发生的次数(频数), n是总试验次数. 称$f_n(A) $为A在这n次试验中发生的频率.

频率的性质:

1. $0⩽f_n(A)⩽1$
2. $f_n(S)=1$
3. 设$A_1,A_2,\cdots ,A_k$两两互不相容, 则$f_n({\bigcup }_{i=1}^k{A}_i)={\sum }_{i=1}^k{f}_n(A_i)$
4. $f_n(A)$随n的增大渐趋稳定, 稳定值为p.

概率

定义

统计性定义

当试验的次数增加时, 随机时间A发生的频率的稳定值p成为概率, 记为P(A) = p.

公理化定义

设随机试验对应的样本空间为S, 对每个时间A定义P(A),满足

1. 非负性: $P(A)\ge 0$;
2. 规范性: P(S) = 1;
3. 可列可加性: $A_1,A_2,\cdots$两两互斥,即$A_i{A}_j=\varnothing ,i\ne j$, 称$P({\bigcup }_{i=1}^{\infty }{A}_i)={\sum }_{i=1}^{\infty }P(A_i)$

称P(A)为事件A的概率.

性质

1. P($\varnothing$) = 0

2. $P(A)=1-P(\overline{A})$

3. 有限可加性: $A_1,A_2,\cdots ,A_n,A_I{A}_j=\varnothing ,i\ne j\Rightarrow P({\bigcup }_{i=1}^n{A}_i)={\sum }_{i=1}^{n}P(A_i)$

4. 若$A\subset B$, 则有P(B-A) = P(B) -P(A)

5. 概率的加法公式: $P(A\cup B)=P(A)+P(B)+P(AB)$

   #5的推广1:

   $P(A\cup B\cup C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)$

   #5的推广2(一般情形):

   $P({\bigcup }_{i=1}^n{A}_i)={\sum }_{i=1}^{n}P(A_i)-{\sum }_{1\le i<j\le n}P(A_i{A}_j)+{\sum }_{1\le i<j<k\le n}P(A_i{A}_j{A}_k)+\cdots +(-1{)}^{n-1}P(A_1{A}_2\cdots A_n)$

等可能概型(古典概型)

若试验满足:

• 样本空间S中样本点有限(有限性)
• 出现每一个样本点的概率相等(等可能性)

称这种试验为等可能概型(或古典概型)

$P(A)=\frac{A中包含的样本点数}{S中的样本点数}$

例子: n次抽奖, 不论先后, 概率都是一样的

条件概率

定义

$P(B|A)=\frac{P(AB)}{P(A)},P(A)\ne 0$

性质:

1. 非负性: $P(B|A)\ge 0$

2. 规范性: $P(S|A)=1$

3. 可列可加性: $B_1,B_2,\cdots ,B_i{B}_j=\varnothing ,i\ne j,则P({\bigcup }_{i=1}^{\infty }{B}_i|A)={\sum }_{i=1}^{\infty }P(B_i|A)$

4. 具有概率的所有性质

   $P(B|A)=1-P(\overline{B}|A)$

   $P(B\cup C|A)=P(B|A)+P(C|A)-P(BC|A)$

   $B\supset C\Rightarrow P(B|A)\ge P(C|A)$

乘法公式

当下面的条件概率都有意义时:

$P(AB)=P(A)\cdot P(B|A)=P(B)\cdot P(A|B)$

$P(ABC)=P(A)\cdot P(B|A)\cdot P(C|AB)$

$P(A_i{A}_j\cdots A_n)=P(A_1)\cdot P(A_2|A_1)\cdot P(A_3|A_1{A}_2)\cdots P(A_n|A_1\cdots A_{n-1})$