随机变量，分布函数（CDF）、概率质量函数（PMF）和概率密度函数（PDF）

随机变量

概率空间$(\Omega ,\mathcal{A},P)$，测度P，随机变量是一个可测映射$X:\Omega \to \mathbb{R}$，给$\Omega$中每一个元素分配一个实数值。“可测”是指对于每个x， { ω , X ( ω ) ≤ x } ⊂ A \{\omega , X(\omega) \le x\} \subset \mathcal{A} {ω,X(ω)≤x}⊂A。

Example 1：抛一枚硬币10次，令 $X(\omega )$ 表示头像向上的次数。如 $\omega$ = HHHTTHHTTH。

Example 2： Ω = { ( x , y ) : x 2 + y 2 ≤ 1 } \Omega = \{(x, y): x^2 + y^2 \le 1 \} Ω={(x,y):x2+y2≤1} ，$\omega =(x,y)\in \Omega$，$X(\omega )=x+y$。

分布函数

定义：对于概率分布 $P$，一个函数 $F$ 映射：$\mathbb{R}\to [0,1]$，是一个CDF (Cumulative Distribution Function) 函数，当且仅当：

1. F是非递减的，$x_1<x_2\Rightarrow F(x_1)<F(x_2)$；
2. $F$是一个正则化，$\underset{x\to -\infty }{\lim }F(x)=0,\underset{x\to \infty }{\lim }F(x)=1$;
3. $F$是右连续的，$F(x)=F(x^{+})$。

离散变量 $X$， { x i } 1 ∞ \{x_i\}_{1}^\infin {xi​}1∞​，定义Probability Mass Function $f_X(x)=P_r(X=x),{\sum }_{x\in X}{f}_X(x)=1$。
连续变量 $X$，存在一个Probability Density Function $f_X(x)$，对于任意$x$，有$f_X(x)>0,{\int }_{-\infty }^{\infty }{f}_X(x)dx=1$。

引理：令 $F$ 是随机变量 $X$ 的CDF，有：

1. $P_r(X=x)=F_X(x)-F_X(x^{-})$;
2. $P_r(x<X\le y)=F_X(y)-F_X(x)$;
3. $P_r(X>x)=1-F_X(x)$;
4. 如果是连续的，有$F(b)-F(a)=P_r(a<X<b)=P_r(a\le X<b)=P_r(a<X\le b)$;

定义：有随机变量$X$ ，CDF为 $F$ ，定义CDF的逆为： F − 1 ( q ) = i n f { x ： F ( x ) > q } , q ∈ [ 0 , 1 ] F^{-1}(q) = inf\{x：F(x) > q\}, q \in [0, 1] F−1(q)=inf{x：F(x)>q},q∈[0,1]