03-期望和协方差

期望

离散变量的期望

概率分布 $p(x)$ 的函数 $f(x)$ 的平均值被称为 $f(x)$ 的期望，离散情况写平均值是对不同的 $x$ 的概率进行加权的。

$$\mathbb{E}[f] = \sum\limits_xp(x)f(x)$$

连续变量的期望

连续变量的情形下，期望由对应的概率密度的积分的形式表示：

$$\mathbb{E}[f] = \int p(x)f(x)dx$$

N个点的期望

给定有限的 N 个点，满足某个概率分布或概率密度函数，期望可以通过求和的方式估计：

E[f]≃1