概率论由相关性求数学期望和方差的公式_概率统计：数学期望、方差、协方差、相关系数、矩...

摘要：最近在学习机器学习/数据挖掘的算法,在看一些paper的时候经常会遇到以前学过的数学公式或者名词,又是总是想不起来,所以在此记录下自己的数学复习过程,方便后面查阅。

1：数学期望

数学期望是随机变量的重要特征之一,随机变量X的数学期望记为E(X),E(X)是X的算术平均的近似值,数学期望表示了X的平均值大小。 当X为离散型随机变量时,并且其分布律为 P(X=xk) ＝ pk   ,其中k=1,2,…,n；则数学期望(要求绝对收敛).

当X为连续型随机变量时,设其概率密度为f(x),则数学期望为(要求绝对收敛).

2:  方差

数学期望给出了随机变量的平均大小,现实生活中我们还经常关心随机变量的取值在均值周围的散布程度,而方差就是这样的一个数字特征。

设X是随机变量,并且E{[X-E(X)2]}存在,则称它为X的方差,记为D(X)。 当X为离散型时,D(x) = .

当X为连续型时,D(x) = .

方差的算术平方根为X的标准差。

另外,D(X) = E{[X-E(X)2]} 经过化解可得 D(X) = E(X2) – [E(X)]2  .我们一般计算的时候常用这个式子。

3： 协方差

对于二维的随机变量(X,Y)，我们还要讨论它们的相互关系,协方差就是一个这样的数字特征。

因为E{[X-E(X)][Y-E[Y]]} = E(XY) – E(X)E(Y).

又当X