方差、标准差、均方差、均方误差、均方根误差详细总结

方差、标准差、均方差、均方误差、均方根误差详细总结

看到网上别的大神总结的都是复制粘贴的，排版很凌乱，特此总结并精美排版一下。

方差

方差是衡量随机变量或一组数据时离散程度的度量。方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。统计中的方差（样本方差）是各个样本数据和平均数之差的平方和的平均数。在许多实际问题中，研究方差即偏离程度有着重要意义。

对于一组随机变量或者统计数据，其期望值（平均数）用$E(X)$​表示，即随机变量或统计数据的均值， 方差的公式如下所示（对各个数据与均值的差的平方和再求平均数）：
$${\sigma }^2=\frac{\sum {\left(X-E\left(X\right)\right)}^2}{N}$$
${\sigma }^2$为总体方差，$X$为变量，$E(X)$为期望值（总体均值），N为总体样数。

注：这个公式描述了随机变量（统计数据）与均值的偏离程度。方差的概念也可以从最小二乘法的角度来进行理解。

标准差

标准差又称均方差，是方差的算数平方根，标准差的公式如下：
$$\sigma =\sqrt{\frac{\sum {\left(X-\mu \right)}^2}{N}}$$
$\mu$​表示期望，等同上面的$E(X)$​。

有了方差为什么还需要标准差？

可以看到标准差的概念是基于方差的，仅仅是求了一个平方根而已。那么为什么要造出标准差这样一个概念呢？

简单来说，方差单位和数据的单位不一致，没法使用，虽然能很好的描述数据与均值的偏离程度，但是处理结果是不符合我们的直观思维的。

而标准差和数据的单位一致，使用起来方便。内在原因就是方差开了一个平方，而标准差通过加了一个根号使得和均值的量纲（单位）保持了一致，在描述一个波动范围时标准差比方差更方便。

注：至于为什么要开平方，参见最小二乘法。

举个例子：一个班级里有60个学生，平均成绩是70分，标准差是9，方差是81，假设成绩服从正态分布，那么我们通过方差不能直观的确定班级学生与均值到底偏离了多少分，通过标准差我们就很直观的得到学生成绩分布在[61,79]范围的概率为68%，即约等于下图中的34.2%*2

额外说明：一个标准差约为 68%（平均值-标准差，平均值+标准差），两个标准差约为95%（平均值-2倍标准差，平均值+2倍标准差）, 三个标准差约为99%。它反映组内个体间的离散程度。

为什么正态分布中要用到标准差，就是因为这个概念可以很好的表示波动范围。

均方误差（MSE）

均方误差是各数据偏离真实值差值的平方和 的平均数，也就是误差平方和的平均数。
$$MSE\left(\hat{\theta }\right)=E{\left(\hat{\theta }-\theta \right)}^2$$
$\hat{\theta }$是估计量，$\theta$是实际值。

举个例子：我们要测量房间里的温度，很遗憾我们的温度计精度不高，所以就需要测量5次，得到一组数据[x1,x2,x3,x4,x5]，假设温度的真实值是$x$，数据与真实值的误差$e=x-x_i$。

那么均方误差为$MSE=\sum (x-x_i)$​​ 。

均方根误差

均方误差的开方叫均方根误差，均方根误差才和标准差形式上接近。

总的来说，均方差（标准差）是数据序列与均值的关系，而均方根误差是数据序列与真实值之间的关系。因此，标准差是用来衡量一组数自身的离散程度，而均方根误差是用来衡量观测值同真值之间的偏差，它们的研究对象和研究目的不同，但是计算过程类似。

总结

• 均方差=标准差

• 方差是各数据偏离平均值差值的平方和的平均数

• 均方误差（MSE）是各数据偏离真实值 差值的平方和的平均数

• 方差是平均值，均方误差是真实值

总的来说，方差是数据序列与均值的关系，而均方误差是数据序列与真实值之间的关系，所以我们要注意区分 真实值和均值 到区别。

参考文章：https://zhuanlan.zhihu.com/p/83410946、https://blog.csdn.net/zengxiantao1994/article/details/77855644/