期望、方差、协方差、协方差函数、期望函数、方差函数

期望

  对离散型随机变量X，其概率分布函数(probability density function,PMF)为$P(X)$，则：
$$E(X)=\mu =\sum _{i=1}^n{X}_{i}P(X_i)$$
  如果等概，就退化成我们从小就接触到的平均值$E(X)=\frac{\sum _{i=1}^n{X}_i}{n}$。
  对连续性随机变量X，其概率密度函数(probability mass function,PDF)为$f(x)$，则：
$$E(X)=\mu ={\int }_{-\infty }^{+\infty }xf(x)dx$$
  附带说一下，累计分布函数(cumulative distribution function,CDF)是PDF的积分形式，设其为$F(x)$，则：
$$F(x)={\int }_{-\infty }^{x}f(x)dx$$

---

方差

  对离散型随机变量X，其概率分布函数为$P(X)$，则：
$$Var(X)=D(X)={\sigma }^2=E((X-E(X){)}^2)=\sum _{i=1}^n(X_i-E(X){)}^{2}P(X_i)$$
= ∑ i = 1 n X i 2 P ( X i ) − E ( X ) 2 = E ( X i 2 ) − E ( X ) 2 =\sum\limits^{n}_{i=1}X_{i}^{2}P(X_{i})-E(X)^{2}=E(X_{i}^{2})-E(X)^{2}