（个人复习用）概率论重点（待补充）

一、随机事件与概率

1.1 基本概念

1.1.1 随机试验

1. 可在相同条件下重复进行
2. 每次结果不止一个，但可以事先明确所有可能结果
3. 每次不能确定哪一个出现

1.1.2 互不相容（互斥，无法同时发生）

$A\cap B=\varnothing$($AB=\varnothing$)

1.1.3 对立事件（逆事件）

$A\cup B=S,AB=\varnothing$

1. $A$与$\overline{A}$为对立事件
2. 对立事件也是互斥的，但反过来不一定对

1.1.4 频率

1. 非负性（任意事件频率不为负）
2. 规范性（必然事件频率为1）
3. 有限可加性（对于两两不互斥的一系列事件，其并集发生概率为其频率之和）
   $P(\varnothing )=0$

1.1.5 超几何分布

N个物品里有M个特定物品，拿出k个，求有i个的概率。

$P=\frac{\left(\genfrac{}{}{0ex}{}{m}{i}\right)\left(\genfrac{}{}{0ex}{}{n}{k-i}\right)}{\left(\genfrac{}{}{0ex}{}{n+m}{k}\right)}$
当$k<0$或$k>n$时,规定$\left(\genfrac{}{}{0ex}{}{n}{k}\right)=0$

1.1.6 抽签问题（顺序不影响概率）

1.1.7 先验概率-后验概率

分别代表$P(B),P(B\mid A)$

1.1.8 独立性

1. $P(B\mid A)=P(B),P(A\mid B)=P(A)$
   $⟹P(AB)=P(A)P(B)$
2. 若$A$与$B$相互独立，则$A$与$\overline{B}$，$\overline{A}$与$B$，$\overline{A}$与$\overline{B}$相互独立。
3. 若$P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P(B)P(C),P(ABC)=P(A)P(B)P(C)⟹A,B,C$相互独立（可推广至n元）

1.1.9 伯努利概型（二项分布,X~B(n,p)）

对于某个试验只有两种可能结果，成功为概率为$p$,重复做$n$次，有$k$次的概率

$P(X=k)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k(1-p{)}^{n-k}(0\le k\le n)$

1.2 基本性质

1. $A\cup B=B\cup A,A\cap B=B\cap A$（交换律）
2. $A\cup (B\cup C)=(A\cup B)\cup C$（结合律）
3. $A\cup (B\cap C)=(A\cup B)\cap (A\cup C)$
   $A\cap (B\cup C)=(A\cap B)\cup (A\cap C)$（分配律）
4. $\overline{A\cup B}=\overline{A}\cap \overline{B}$
   $\overline{A\cap B}=\overline{A}\cup \overline{B}$（De Morgan法则）
   $\overline{{\cup }_{n\ge 1}{A}_n}={\cap }_{n\ge 1}\overline{A_n}$
   $\overline{{\cap }_{n\ge 1}{A}_n}={\cup }_{n\ge 1}\overline{A_n}$（De Morgan法则推广）

1.3计算用公式

1. $P(A-B)=P(A)-P(AB)=P(A\overline{B})$（减法）
2. $P(A\cup B)=P(A)+P(B)-P(AB)$（加法、二元容斥，可推广）
3. $P({\cup }_{i=1}^n{A}_i)\le {\sum }_{i=1}^{n}P(A_i)$（次可加性，等号成立为两两互斥）
4. $P(B\mid A)=\frac{P(AB)}{P(A)}$（A已经发生时B的概率）
5. $P(AB)=P(B\mid A)P(P(A)>0)$（乘法公式）
6. $P(A)={\sum }_{i\in I}P(A\mid B_i)P(B_i)(P(B_i)>0)$（全概率公式）
7. $P(B_i\mid A)=\frac{P(A\mid B_i)P(B_i)}{{\sum }_{j\in I}P(A\mid B_j)P(B_j)}$（贝叶斯公式）

二、随机变量与其分布

2.1 随机变量

定义样本空间$S$，如果$X=X(\omega )$是在$S$上的实值函数且一一对应，则$X=X(\omega )$为随机变量
分为离散型随机变量（取值有限或可列无穷）与非离散型随机变量（连续性，奇异性）

2.2 离散型随机变量（取值有限或可列无穷）

$\begin{array}{cccccc}X& x_1& x_2& \cdots & x_n& \cdots \\ P& p_1& p_2& \cdots & p_n& \cdots \end{array}$

2.2.1性质

1. $\forall p_k>0,{\sum }_{k=1}^{\infty }{p}_k=1$（充要条件）

2.2.2 常见类型

1. 单点分布（退化分布）：$P(X=c)=1$

2. 两点分布（0-1分布）：$P(X=k)=p^k(1-p{)}^{1-k},(k=0,1)$

$\begin{array}{ccc}X& 0& 1\\ P& 1-p& p\end{array}$

3. 二项分布
   见上
   泊松定理（计算近似用,在n很大,p很小时使用）：
   $li{m}_{n\to \infty }\left(\genfrac{}{}{0ex}{}{n}{k}\right)p_n^k(1-p_n{)}^{n-k}=\frac{{\lambda }^k}{k!}{e}^{-\lambda }$$(n{p}_n\to \lambda )$
4. 泊松分布(X~P($\lambda$))
   $P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda }(k=0,1,2,...)$
5. 几何分布（某件事第一次发生的次数,X~g( p )）
   $P(X=k)=p(1-p{)}^{k-1}k=(1,2,...)$
   具有无记忆性（已经n次未成功，再m次时概率与之前无关，还是$(1-p{)}^m$）
6. 超几何分布
   见上
7. 幂律分布
   P { X = k } = C k γ ( γ > 1 , k = 1 , 2 , . . . ) P\{X=k\}=\frac{C}{k^{\gamma}}(\gamma>1,k=1,2,...) P{ X=k}=kγC​(γ>1,k=1,2,...)

2.3 随机变量的分布函数（类似前缀和）

$F(x)=P(X\le x)$
$P(a<X\le b)=F(b)-F(a)$（如果是连续性随机变量,该式子可以看成定积分）

1. $F(x)$单调不减
2. $0\le F(x)\le 1$,$F(-\infty )=0,F(\infty )=1$
3. $F(x)$右连续

2.4 连续性随机变量（可以表示为定积分形式）

对于分布函数$F(x)$，存在非负可积函数$f(x)$，$\forall x\in R$，有
$$F(x)={\int }_{-\infty }^{x}f(t)\mathrm{d}t$$
则$X$为连续性随机变量，$f(x)$是概率密度

2.4.1 性质&相关定理

1. 非负性：$\forall x\in R，f(x)\ge 0$
2. 规范性：${\int }_{-\infty }^{\infty }f(x)\mathrm{d}x=1$
3. 对于任意实数$a,b(a\le b),P(a<(\le )X<(\le )b)=F(b)-F(a)$（由第5条得到）
4. $F(x)$连续，且$f(x)$在$x_0$处连续，$f(x_0)=F^{\prime }(x_0)$
5. $P(X=c)=0$(c是常数)
   （概率为0的事件不一定是不可能事件，概率为1的事件不一定是必然事件）

2.4.2 常见分布

1. 均匀分布（等可能性）
   $f(x)=\{\begin{array}{ll}\frac{1}{b-a}& a\le x\le b\\ 0,& x<aorx>b\end{array}$   $F(x)=\{\begin{array}{ll}1& x>b\\ \frac{x-a}{b-a}& a\le x\le b\\ 0,& x<a\end{array}$

2. 指数分布（唯一拥有无记忆性的连续性分布）
   $f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x},& x\ge 0\\ 0,& x<0\end{array}$   $F(x)=\{\begin{array}{ll}1-e^{-\lambda x},& x\ge 0\\ 0,& x<0\end{array}$
   无记忆性：$P(X>t+s\mid X>s)=P(X>t)$
   泊松分布与指数分布的关系？？？

3. 柯西分布
   $f(x)=\frac{1}{\pi (1+x^2)}(-\infty <x<\infty )$
   $F(x)=\frac{1}{\pi }arctanx+\frac{1}{2}$

4. 正态分布（X~N($\mu$,${\sigma }^2$)）
   $$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}(-\infty <x<\infty )$$
   $$F(x)=\frac{1}{\sqrt{2\pi }\sigma }{\int }_{-\infty }^x{e}^{-\frac{(t-\mu {)}^2}{2{\sigma }^2}}\mathrm{d}t$$
   当$\mu =0,\sigma =1$，为标准正态分布。
   $$\phi (x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}(-\infty <x<\infty )$$
   $$\Phi (x)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{e}^{-\frac{t^2}{2}}\mathrm{d}t$$
   $\Phi (x)$具体值可查表。
   

$f(x)$性质：

1. 在$x=\mu$对称，且$x=\mu$有最大值$\frac{1}{\sqrt{2\pi }\sigma }$
2. 在$x=\mu \pm \sigma$处有拐点
3. $x\to \pm \infty$时为$x$轴的渐近线
4. 固定$\sigma$变化$\mu$，图像会平行移动，故$\mu$为位置参数
5. 固定$\mu$变化$\sigma$，越大图像越扁平，故$\sigma$为尺度参数

计算公式：

记$X\sim N(0,1)$，

1. $\Phi (-u)=1-\Phi (u)$
2. $P(X>u)=1-\Phi (u)$
3. $P(a<X\le b)=\Phi (b)-\Phi (a)$
4. $P(|X|<c)=2\Phi (c)-1$

记$X\sim N(\mu ,{\sigma }^2)$

1. P { a < X ≤ b } = Φ ( b − μ σ ) − Φ ( a − μ σ ) P\{a<X\leq b\}=\Phi(\frac{b-\mu}{\sigma})-\Phi(\frac{a-\mu}{\sigma}) P{ a<X≤b}=Φ(σb−μ​)−Φ(σa−μ​)
2. P { ∣ X − μ ∣ < σ } = Φ ( 1 ) − Φ ( − 1 ) ≈ 0.6826 P\{|X-\mu|<\sigma\}=\Phi(1)-\Phi(-1)\approx 0.6826 P{ ∣X−μ∣<σ}=Φ(1)−Φ(−1)≈0.6826
3. P { ∣ X − μ ∣ < 2 σ } = Φ ( 2 ) − Φ ( − 2 ) ≈ 0.9544 P\{|X-\mu|<2\sigma\}=\Phi(2)-\Phi(-2)\approx 0.9544 P{ ∣X−μ∣<2σ}=Φ(2)−Φ(−2)≈0.9544
4. P { ∣ X − μ ∣ < 3 σ } = Φ ( 3 ) −