概率论基础

贝叶斯公式

$$p(B_i|A) = \frac{p(A|B_i)p(B_i)}{\sum_{j=1}^n p(A|B_j)p(B_j)}, i = 1,2,3,\cdots,n.$$

当n取2的时候，$B_2$表示的就是事件$B$的逆事件$\hat{B}$，所以有

$$p(B|A)=\frac{p(B)p(A|B)}{p(B)p(A|B) + p(\hat{B})p(A|\hat{B})}$$

---

事件的独立性

设A、B是两事件，如果满足等式

$$p(AB)=p(A)p(B)，$$

则称事件A、B相互独立。

---

离散型随机变量及其分布律

(一) 离散型

对于离散型，这里只记录一下泊松分布。

泊松分布

设随机变量$X$所有可能的值为 $0,1,2,3,\cdots,$而取各个值的概率为

$$p \left\{X=k \right\} = \frac{\lambda^k e^{-k}}{k!},k=1,2,3,\cdots,n,$$

其中 $\lambda > 0$ 是常数。则称$X$服从参数为$\lambda$的泊松分布，记为$X \sim \pi(\lambda)$.
泊松定理$\quad$ 设 $\lambda > 0$ 是一个常数，n是任意正整数，设 $np_n=\lambda$，则对于任一固定的非负整数$k$，有

$$\lim_{k \to \infty} \left({ ^n _k }\right) p{^k _n} (1 - p){^{n - k} _n} = \frac{\lambda^k e^{-k}}{k!}.$$

定理的条件是 $np = \lambda(常数)$ 意味着当 $n$ 很大时 $p$ 会很小，因此，上述定理表明对于一个二项分布，当其试验次数足够大，且其所试验事件的发生概率足够小时有以下近似式

$$C{^k _n}p^k(1 - p)^{n - k} \approx \frac{\lambda^k e^{-k}}{k!}.$$

(二) 非离散型

通常非离散型随机变量取任一指定的实数值的概率都等于0。
设 $X$ 是一个随机变量， $x$ 是任意实数，函数

$$F(x) = P \left\{ X \leq x \right\}, x \in (- \infty, + \infty).$$

称为 $X$ 的分布函数。且

$$p \left\{ x_1 < X \leq x_2 \right\} = F(x_2) - F(x_1).$$

对于随机变量 $X$ 的分布函数 $F(x)$，存在非负可积函数 $f(x)$ 使对于任意实数 $x$ 有

$$F(x) = \int ^x _{-\infty} f(t) {\rm d}t$$

函数$f(t)$称为分布函数的概率密度，且

1. $\int ^{+\infty} _{-\infty} f(t) {\rm d}t = 1,f(x) \ge 0,$

2. $f(x) \ge 0,$

3. $p \left\{ x_1 < X \leq x_2 \right\} = F(x_2) - F(x_1) = \int ^{x_2} _{x_1} f(t) {\rm d}t,$

4. $F'(x) = f(x).$

对于非离散型的且为连续型的随机变量$X$只在此记录指数分布和正太分布这两种。

(1) 指数分布

若连续型随机变量 $X$ 的概率密度为

$$f(x) = \begin{cases} \frac{1}{\theta}e^{\frac{-x}{\theta}}, x > 0, \\ 0, 其他,\end{cases}$$

其中 $\theta > 0$ 为常数，则称$X$服从参数为 $\theta$ 的指数分布。
指数分布的一个重要性质是无记忆性，即服从指数分布的随机变量 $X$ 对于任意 $s, t > 0， 有$

$$P\left\{ X > s + t | X > s \right\} = P\left\{ X > t \right\}.$$

就是说有一个灯泡在用了 $s$ 小时后继续使用 $t$ 小时坏的概率和这个灯泡从开始使用算起就只用了 $t$ 小时就坏了的概率是一样的。

(2) 正太分布

正太分布（记为 $X \sim N(\mu, \sigma^2)$）的随机变量 $X$ 的概率密度为

$$f(x) = \frac{1}{\sqrt {2 \pi} \sigma} e ^{- \frac{(x - \mu)^2}{2 \sigma^2}}, - \infty < x < + \infty，$$

对于任意一个正态分布，它都可以通过一个简单的线性变换化为标准正太分布（即 $\mu = 0, \sigma = 1$ 的正态分布）。

---

随机变量的函数分布

设随机变量 $X$ 具有概率密度

$$f_x(x) = \begin{cases} \frac{x}{8}, \quad 0 < x < 4, \\ 0, 其他. \end{cases}$$

求随机变量 $Y = 2X + 8$ 的概率密度.

解

$$F_Y(y) = P \left\{Y \leq y \right\} = P \left\{2X + 8 \leq y\right\} = P \left\{X \leq \frac{y - 8}{2}\right\} = F_x(\frac{y - 8}{2}).$$

$$f_Y(y) = f_x(\frac{y - 8}{2}) (\frac{y - 8}{2})' = \begin{cases} \frac{1}{8} ( \frac{y - 8}{2} ) \frac{1}{2}, \quad 0 < \frac{y - 8}{2} < 4, \\ 0, \quad 其他. \end{cases} = \begin{cases} \frac{y - 8}{32}, \quad 8 < y < 16, \\ 0, \quad 其他. \end{cases}$$

也就是说对于随机变量 $X$ ，如果存在随机变量 $Y = g(X),函数g(x)是一个单调函数$，则随机变量 $Y$ 的概率密度为

$$f_Y(y) = \begin{cases} f_x(h(y))[h'(y)], \quad \alpha < y < \beta, \\ 0, \quad 其他. \end{cases}$$

其中 $\alpha = min \left\{ g(- \infty), g(\infty) \right\}$，$\beta= max\left\{ g(- \infty), g(\infty) \right\}$，$h(y)是g(x)的反函数$。