Python统计推断

在概率论中，我们考虑一个样本空间$\Omega$，它是所有可能结果$\omega$的集合，以及它的具有$\sigma$-代数结构的子集的集合$\mathcal{F}$，其中的元素称为事件。

定义 1.1（随机变量）。– 真正的随机变量$X$是从$\Omega$到$\mathbb{R}$的（可测量的）应用：

$$X:\omega \in \Omega \mapsto x\in \mathbb{R},(1)$$

定义 1.2（离散随机变量）。– 如果随机变量$X$取其值在$\mathbb{R}$的子集中，最多可数，则称其为离散变量。 如果 { a 0 , … , a n , … } \left\{a_{0}, \ldots, a_{n}, \ldots\right\} {a0​,…,an​,…}，其中$n\in \mathbb{N}$，表示这组值，则$X$的概率分布由以下序列表征：

p X ( n ) = P { X = a n } , ( 2 ) p_{X}(n)=\mathbb{P}\left\{X=a_{n}\right\},\qquad(2) pX​(n)=P{X=an​},(2)

表示$X$等于元素$a_n$的概率。 这些值使得$0\le p_X(n)\le 1$且${\sum }_{n\ge 0}{p}_X(n)=1$。

这导致我们得到随机变量$X$属于区间$]a,b]$的概率。 它由以下给出：

P { X ∈ ] a , b ] } = ∑ n ≥ 0 p X ( n ) 1 ( a n ∈ ] a , b ] ) , ( 3 ) \mathbb{P}\{X \in] a, b]\}=\sum_{n \geq 0} p_{X}(n) \mathbb{1}\left.\left.\left(a_{n} \in\right] a,b\right]\right),\qquad(3) P{X∈]a,b]}=n≥0∑​pX​(n)1(an​∈]a,b]),(3)

对于$x\in \mathbb{R}$，随机变量$X$的累积分布函数 (cdf) 定义为：

F X ( x ) = P { X ≤ x } = ∑ { n : a n ≤ x } p X ( n ) = ∑ n ≥ 0 p X ( n ) l ( a n ∈ ] − ∞ , x ] ) , ( 4 ) F_{X}(x)=\mathbb{P}\{X \leq x\}=\sum_{\left\{n: a_{n} \leq x\right\}} p_{X}(n)=\sum_{n \geq 0} p_{X}(n) \mathbb{l}\left.\left.\left(a_{n} \in\right]-\infty, x\right]\right),\qquad(4) FX​(x)=P{X≤x}={n:an​≤x}∑​pX​(n)=n≥0∑​pX​(n)l(an​∈]−∞,x]),(4)

它是一个单调递增函数，其中$F_X(-\infty )=0$和$F_X(+\infty )=1$。 它的图形是一个阶梯函数，跳跃位于$a_n$幅度为$p_X(n)$。

定义 1.3（$q$分位数）。– 第$k$个$q$分位数，与给定的累积函数$F(x)$相关，写为：

c k = min ⁡ { x : F ( x ) ≥ k / q } , ( 5 ) c_{k}=\min \{x: F(x) \geq k / q\},\qquad(5) ck​=min{x:F(x)≥k/q},(5)

其中$k$从 1 到 $q-1$。因此，$q$分位数的数量是$q-1$。

$q$ 分位数是将概率范围划分为等概率 1 的 $1/q$ 个区间的限制。例如，2-分位数是中位数。

更具体地说，我们有：

定义 1.4（中值）。– 随机变量 $X$ 的中值是值 $M$，使得累积函数满足 $F_X(M)=1/2$ 。

以下程序执行高斯分布的 $q$分位数。 概率密度下的每个面积等于 $1/q$。

from numpy import linspace, arange
from scipy.stats import norm
from matplotlib import pyplot as plt
x = linspace(-3,3,100); y = norm.pdf(x); plt.clf(); plt.plot(x,y)
q = 5; Qqi = arange(1,q)/q; quantiles = norm.ppf(Qqi)
plt.hold(’on’)
for iq in range(q-1):
		print(’%i-th of the %i-quantiles is %4.3e’%(iq+1,q,quantiles[iq]))
		plt.plot([quantiles[iq],quantiles[iq]],[0.0,norm.pdf(quantiles[iq])],’:’)
plt.hold(’off’);plt.title(’eachareaisequalto%4.2f’%(1.0/q));
plt.show();

定义 1.5（两个离散随机变量）。– 令 { X , Y } \{X, Y\} {X,Y} 为两个离散随机变量，分别具有一组值 { a 0 , … , a n , … } \left\{a_{0}, \ldots, a_{n}, \ldots\right\} {a0​,…,an​,…} 和 { b 0 , … , b k , … } \left\{b_{0}, \ldots, b_{k}, \ldots\right\} {b0​,…,bk​,…}。 联合概率分布的特征是正值序列：

详情参阅 - 亚图跨际