期望和方差

期望

离散型

$$E(x)=\sum_{i}{}x_{i}p_{i}$$

连续型

$$E(x)=\int_{-\infty}^{+\infty}{}xf(x)dx$$
意思就是概率下的加权值，加和和积分在本质上可以看成一样的。

意义

在概率论和统计学中，一个离散性随机变量的期望值（或数学期望、或均值，亦简称期望，物理学中称为期待值）是试验中每次可能结果的概率乘以其结果的总和。换句话说，期望值是随机试验在同样的机会下重复多次的结果计算出的等同“期望”的平均值。——维基百科

性质

无条件成立

$$E(kX)=kE(X)$$
$$E(X+X)=E(X)+E(X)$$

$X$和$Y$相互独立

$$E(XY)=E(X)E(Y)$$
这个性质，反之不成立，若 $E(XY)=E(X)E(Y)$只能说明 $X$和$Y$不相关

例题

从1,2,3…98,99,2015这100个数中选择若干个数求异或，试求异或的期望值
异或：即不带进位的加法，奇数个1位为1，偶数个1为0，跟0的个数没有关系
我们首先考虑最大的数2015，写成二进制2015=（11111011111），共11位
针对每一位分别进行计算，考虑第$i$位$X_i$，假定给定的100个数中的第$i$位一共有$N$个1，$M$个0，某次采样取到1的个数为$k$。则有

$$E(P\{X_i=1\})= \frac{2^m \cdot \sum_{k\in odd}C_n^k}{2^{m+n}}=\frac {\sum_{k\in odd}C_n^k}{2^n}=\frac {1}{2}$$
$odd$表示奇数
则11位二进制数中，每个位取1的期望都是 $0.5$
$$E(x)=E(\sum_{i=0}^{10}(X_{i} \cdot P\{ X_i\}))$$
$$E(x)=E(\sum_{i=0}^{10}(2^i \cdot P\{X_i=1\}+0\cdot P\{X_i=0\}))$$
$$E(x)=E(\sum_{i=0}^{10}(2^i \cdot P\{X_i=1\}))$$
$$E(x)=\sum_{i=0}^{10}E(2^i \cdot P\{X_i=1\})=\sum_{i=0}^{10}2^i \cdot E(P\{X_i=1\})$$
$$E(x)=\sum_{i=0}^{10}2^i \cdot \frac{1}{2}=\frac{(11111111111)_2}{2}=1023.5$$

方差

定义

$$Var(x)=E\{[X-E(X)]^2\}=E(X^2)-E^2(X)$$

意义

在概率论和统计学中，一个随机变量的方差描述的是它的离散程度，也就是该变量离其期望值的距离。一个实随机变量的方差也称为它的二阶矩或二阶中心动差，恰巧也是它的二阶累积量。方差的算术平方根称为该随机变量的标准差。—维基百科

性质

无条件成立

$$Var(c)=0$$
$$Var(x+c)=Var(X)$$
$$Var(kx)=k^2Var(X)$$

$X$和$Y$相互独立

$$Var(X+Y)=Var(X)+Var(Y)$$