4.3 协方差及相关系数、矩

夏驰和徐策

已于 2023-05-07 19:59:58 修改

阅读量1.9k

点赞数 3

分类专栏：概率论文章标签：概率论

于 2023-04-15 16:05:01 首次发布

本文链接：https://blog.csdn.net/tang7mj/article/details/130171123

版权

概率论专栏收录该内容

32 篇文章 6 订阅

订阅专栏

学习目标：

我正在学习协方差、相关系数和矩，我会采取以下措施：

理解基本概念：首先，我会努力理解协方差、相关系数和矩的基本概念。我会查阅参考资料，例如课本或在线教程，以便深入了解这些概念的定义和特点。
学习数学公式：协方差、相关系数和矩都涉及到一些数学公式和计算方法，我会仔细学习这些公式，并努力理解它们的意义和应用。
使用计算工具：在学习过程中，我会使用一些计算工具来帮助我计算协方差、相关系数和矩。例如，我可以使用Excel或其他统计软件来计算这些指标，以便更好地理解它们的计算过程和结果。
实际应用：学习过程中，我会尝试将所学的内容应用于实际问题中。例如，我可以使用协方差和相关系数来研究两个变量之间的关系，或使用矩来描述数据分布的特征。
多角度思考：最后，我会从不同角度思考协方差、相关系数和矩的概念和应用。例如，我会尝试将其与其他统计指标进行比较，或探讨其在不同领域的应用。通过多角度思考，我相信我能更好地理解这些指标的含义和作用。

我的理解：

协方差是用来衡量两个随机变量之间关系的一种统计指标。其数值表示这两个随机变量的变化趋势是否一致，如果一致，则协方差为正值；如果相反，则协方差为负值。如果两个随机变量之间没有关系，则协方差为零。

2023/5/7 补充

疑问两个随机变量之间关系是什么意思？它们又有什么样的关系

解答：

在统计学中，"两个随机变量之间的关系"通常指的是它们之间的相关性或者联合变异性。如果两个随机变量的取值趋向于同时增加或同时减少，那么它们之间存在正相关性；反之，如果一个随机变量的取值增加，而另一个随机变量的取值减少，那么它们之间存在负相关性。如果两个随机变量之间没有任何关系，那么它们之间的协方差为0。

因此，协方差可以用来衡量两个随机变量之间的线性相关性，即它们之间是否具有相似的趋势。如果两个随机变量之间的协方差为正数，那么它们之间存在正相关性；如果协方差为负数，那么它们之间存在负相关性；如果协方差为0，则它们之间没有任何关系。

简单的说就是如果两随机变量同增同减那么它的协方差大于0，两个随机变量没有关系那么它的协方差一定=0，如果一个随机变量增加另一个则减小那么它的协方差一定小于0。

协方差的计算公式为：

Cov(X,Y) = E[(X-E[X])(Y-E[Y])]

其中，X和Y是两个随机变量，E[X]和E[Y]分别是它们的期望值。

协方差的重点和难点包括：

协方差的符号和大小反映了两个随机变量之间的关系，但具体如何解释协方差的值需要根据具体场景进行分析和判断。
协方差的计算需要先求出两个随机变量的期望值，这对于复杂的数据分布和模型可能比较困难。
协方差受到单位的影响，因此在比较不同数据集或不同变量之间的协方差时需要进行标准化处理。
协方差也存在一些局限性，例如不能区分两个随机变量之间的因果关系，也不能直接比较不同数据集或不同变量之间的相似程度。

因此，在使用协方差时，需要考虑具体应用场景，并结合其他统计指标和方法进行综合分析和判断。

协方差是用来衡量两个随机变量之间关系的一种统计指标。它的计算基于随机变量的期望值，可以通过比较两个随机变量的取值与其期望值之间的差异，来评估它们之间的关系。

具体来说，如果两个随机变量的取值变化趋势一致，那么它们的差值（即取值与期望值之差）应该大部分是同号的，因此协方差值为正；如果它们的变化趋势相反，那么它们的差值大部分应该是异号的，因此协方差值为负。如果两个随机变量之间没有关系，那么它们的差值应该是随机的，协方差值应该接近于0。

因此，可以将协方差理解为衡量两个随机变量之间关系的一种度量，它反映了两个随机变量的变化趋势是否一致，以及变化幅度的大小。通过协方差可以初步判断两个随机变量之间的关系，但需要注意其局限性和不足之处，例如不能区分因果关系和受单位的影响等。

2023/5/7 补充

协方差的五条性质：

协方差是用来衡量两个随机变量之间关系的一种统计指标，它具有以下性质：

协方差是对称的。也就是说，cov(X,Y) = cov(Y,X)。
如果两个随机变量X和Y独立，它们的协方差为0。这是因为，当X和Y独立时，它们之间不存在任何关系，因此它们的协方差为0。
协方差的绝对值越大，表示两个随机变量之间的相关性越强。当协方差为0时，表示两个随机变量之间没有任何关系；当协方差为正数时，表示两个随机变量之间存在正相关性；当协方差为负数时，表示两个随机变量之间存在负相关性。
如果两个随机变量的方差相同，那么它们的标准差也相同，此时它们之间的协方差可以被解释为它们之间的相关系数。相关系数是一个无量纲量，它的取值范围在-1到1之间，用来衡量两个随机变量之间线性相关的强度和方向。
协方差可以用来计算两个随机变量的方差。具体地，如果X和Y是两个随机变量，那么它们的方差可以表示为Var(X) = cov(X,X)和Var(Y) = cov(Y,Y)。

对这五个性质的证明：

1. 协方差是对称的。也就是说，cov(X,Y) = cov(Y,X)。

证明：根据协方差的定义，有cov(X,Y) = E[(X - E(X))(Y - E(Y))]。由于期望运算符是线性的，因此可以将上式改写为cov(Y,X) = E[(Y - E(Y))(X - E(X))]。根据乘法交换律，可以将上式改写为cov(Y,X) = E[(X - E(X))(Y - E(Y))]，即cov(Y,X) = cov(X,Y)。因此，协方差是对称的。

2. 如果两个随机变量X和Y独立，它们的协方差为0。

证明：当X和Y独立时，它们之间不存在任何关系，因此它们的协方差为0。具体地，根据协方差的定义，有cov(X,Y) = E[(X - E(X))(Y - E(Y))]，由于X和Y独立，所以E[(X - E(X))(Y - E(Y))] = E[(X - E(X))]E[(Y - E(Y))] = 0，因此cov(X,Y) = 0。

3. 协方差的绝对值越大，表示两个随机变量之间的相关性越强。

证明：由于协方差的定义是两个随机变量之间的线性相关性的度量，因此当两个随机变量之间的相关性越强时，它们的协方差的绝对值也就越大。具体地，当两个随机变量之间的相关系数为1时，它们之间存在完全正相关，此时它们的协方差等于它们各自的方差之和；当两个随机变量之间的相关系数为-1时，它们之间存在完全负相关，此时它们的协方差等于它们各自的方差之差的相反数；当两个随机变量之间的相关系数为0时，它们之间不存在任何关系，此时它们的协方差为0。因此，协方差的绝对值越大，表示两个随机变量之间的相关性越强。

4. 如果两个随机变量的方差相同，那么它们的标准差也相同，此时它们之间的协方差可以被解释为它们之间的相关系数。

证明：由于方差的定义是标准差的平方，因此如果两个随机变量的方差相同，那么它们的标准差也相同。具体地，设X和Y是两个随机变量，它们的方差均为σ^2，即

$Var(X) = Var(Y) = \sigma^2$，则它们的标准差均为$\sigma$，即$Std(X) = Std(Y) = \sigma$。此时，它们之间的协方差可以被解释为它们之间的相关系数，即

因此，如果两个随机变量的方差相同，那么它们之间的协方差可以被解释为它们之间的相关系数。

5. 协方差满足线性运算的性质。具体来说，对于任意两个随机变量X、Y和任意常数a、b，有cov(aX + b, Y) = a cov(X,Y)。

证明：根据协方差的定义，有

\begin{aligned}
cov(aX + b, Y) &= E[(aX + b - E(aX + b))(Y - E(Y))] \\
&= E[a(X - E(X))(Y - E(Y))] \\
&= a E[(X - E(X))(Y - E(Y))] \\
&= a cov(X,Y).
\end{aligned}

因此，协方差满足线性运算的性质。