期望 方差 协方差 协方差矩阵 (Expectation Variance Covariance)

在学习机器学习的算法时经常会碰到随机变量的数字特征，所以在这里做一个简单的总结。

1、         期望(Expectation)

离散：

其中，f(x)为随机变量x的概率函数，事实上期望就是随机变量的平均数。

 

 连续：

连续情况和离散的类似，只是把求和换成了积分。

 

求解关于自变量函数的期望的公式如下，其实自变量x的期望是r(x)=x的一个特例。

离散：

 

连续：

 

性质：

1.      如果Y=aX+b , E(Y)=aE(X)+b.

2.      如果x1, x2,…,xn为你个随机变量，

 

 

2、         方差( Variance)

方差经常被用来度量数据和其数学期望之间的偏离程度，