Mathematics Base - 期望、方差、协方差、相关系数总结

参考：《深度学习500问》

期望
​在概率论和统计学中，数学期望（或均值，亦简称期望）是试验中每次可能结果的概率乘以其结果的总和。它反映随机变量平均取值的大小。

• 线性运算： \(E(ax+by+c) = aE(x)+bE(y)+c\)
  
• ​推广形式： \(E(\sum_{k=1}^{n}{a_ix_i+c}) = \sum_{k=1}^{n}{a_iE(x_i)+c}\)
• 函数期望：设\(f(x)\)为\(x\)的函数，则\(f(x)\)的期望为
  • 离散函数： \(E(f(x))=\sum_{k=1}^{n}{f(x_k)P(x_k)}\)
  • 连续函数： \(E(f(x))=\int_{-\infty}^{+\infty}{f(x)p(x)dx}\)

注意：

• 函数的期望不等于期望的函