统计学（学习笔记1）

总体方差（the variance of a population）

用来表述数据与均值之间的偏离程度。

$$\begin{eqnarray} \sigma^2 &= &\frac{\sum_{i=1}^{N}(x_i-\mu)^2}{N} \\ &=&\frac{\sum_{i=1}^{N}(x_i^2-2x_i\mu+\mu^2)}{N} \\ &=&\frac{(\sum_{i=1}^{N}x_i^2)-(\sum_{i=1}^{N}2x_i\mu)+(N\mu^2)}{N} \\ &=&\frac{(\sum_{i=1}^{N}x_i^2)-2\mu(N\mu)+(N\mu^2)}{N} \\ &=&\left(\frac{\sum_{i=1}^{N}x_i^2}{N}\right)-\mu^2 \end{eqnarray}$$
其中，总体均值
$$\begin{eqnarray} \mu=\frac{\sum_{i=1}^{N}x_i}{N} \end{eqnarray}$$

样本方差（the variance of a sample）

$$\begin{eqnarray} s^2 = \frac{\sum_{i=1}^{n}(x_i-\overline{x})^2}{n-1} \end{eqnarray}$$
其中，样本均值
$$\begin{eqnarray} \overline{x}=\frac{\sum_{i=1}^{n}x_i}{n} \end{eqnarray}$$

标准差（Standard Deviation）

标准差 $\sigma$ 是表述数据与均值之间的偏离程度的另一个重要标志。它等于方差的平方根。

总体的标准差

$$\begin{eqnarray} \sigma = \sqrt\frac{\sum_{i=1}^{N}(x_i-\mu)^2}{N} \end{eqnarray}$$

样本的标准差

$$\begin{eqnarray} s = \sqrt\frac{\sum_{i=1}^{n}(x_i-\overline{x})^2}{n-1} \\ \end{eqnarray}$$

随机变量（Random Variable）

随机变量是表示随机现象各种结果的变量。萨尔曼认为随机变量并不是传统意义上的变量，而是一种由随机过程映射到数值的过程。
分为两种：

• 连续随机变量
• 离散随机变量

概率密度函数（Probability Density Function）

概率密度函数也被称为概率分布函数。连续随机变量的概率密度函数是一个描述这个随机变量的输出值，在某个确定的取值点附近的可能性的函数。而随机变量的取值落在某个区域之内的概率则为概率密度函数在这个区域上的积分。

二项分布（Binomial Distribution）

在概率论和统计学中，二项分布是n个独立的是/非试验中成功的次数的离散概率分布，其中每次试验的成功概率为$p$。

一般地，如果随机变量$X$服从参数为$n$和$p$的二项分布，记$X\sim B(n,p)$.$n$次试验中正好得到$k$次成功的概率由概率质量函数给出：

$$\begin{eqnarray} f(k;n,p)=Pr(K=k)= \binom n k p^k(1-p)^{n-k} \end{eqnarray}$$
对于 $k=0,1,2,..., n$,其中 $$\binom n k =\frac{n!}{k!(n-k)!}$$

期望值$E(X)$

在概率论和统计学中，一个离散性随机变量的期望值（或数学期望、或均值，亦简称期望，物理学中称为期待值）是试验中每次可能结果的概率乘以其结果的总和。

如果$X$是离散的随机变量，输出值为$x_1, x_2, ...$， 和输出值相应的概率为$p_1, p_2, ...$（概率和为1）。若级数$\sum_{i}^{}p_ix_i$绝对收敛，那么期望值$E[X]$是一个无限数列的和：

$$\begin{eqnarray} E[X] = \sum_{i}^{}p_ix_i \end{eqnarray}$$

二项分布的期望值

$$\begin{eqnarray} E[X] = n·p \end{eqnarray}$$
其中 $n$为随机试验次数，$p$为某一次的成功概率。

【推导过程】

$$\begin{eqnarray} E[X]& =& \sum_{k=1}^{n}k·\binom n k ·p^k(1-p)^{n-k}\\ &=&\sum_{k=1}^{n}k·\frac{n!}{k!(n-k)!}·p^k(1-p)^{n-k}\\ &=&\sum_{k=1}^{n}\frac{n·(n-1)!}{(k-1)!(n-k)!}·p·p^{k-1}(1-p)^{n-k}\\ &=&np\sum_{k=1}^{n}\frac{(n-1)!}{(k-1)!(n-k)!}·p^{k-1}(1-p)^{n-k}\\ &\overset{\text{a=k-1,b=n-1}}{=}& np\sum_{a=0}^{b}\frac{b!}{a!(b-a)!}·p^{a}(1-p)^{b-a}\\ &=&np \end{eqnarray}$$

泊松过程（Poisson Process）