最近在《Causal inference in Statistics:A primer》（统计因果推理入门）的第一章1.3.10中看到这样一句话，即若Y关于X的回归方程为y=a+bx,则斜率b可以用协方差计算，即：
b
=
R
X
Y
=
σ
X
Y
σ
X
2
b = R_{XY}=\frac{σ_{XY}}{σ_{X}^2}
b=RXY=σX2σXY
那么上述等式是如何得到的？答案是通过借助期望得到的，当然b还有另一种表示形式。即：
b
=
∑
(
x
i
−
x
ˉ
)
(
y
i
−
y
ˉ
)
∑
(
x
i
−
x
ˉ
)
2
b =\frac{∑(x_i-\text{\={x})}(y_i-\text{\={y}}) }{∑(x_i-\text{\={x}})^2}
b=∑(xi−xˉ)2∑(xi−xˉ)(yi−yˉ)
上面这种形式的话，是通过最小二乘法推导出来的，即通过最小化目标函数
m
i
n
(
y
i
−
y
i
′
)
2
min(y_i-{y_{i}}^{'})^2
min(yi−yi′)2，求偏导得出
下面讲讲如何得到第一种表达，
首
先
因
为
Y
=
a
+
b
X
,
在
等
式
左
右
两
边
都
套
上
期
望
，
则
可
得
到
E
[
Y
]
=
a
+
b
E
[
X
]
又
在
等
式
两
边
同
乘
一
个
x
，
在
套
上
期
望
，
则
可
得
到
E
[
X
Y
]
=
a
E
[
X
]
+
b
E
[
X
2
]
将
这
两
个
等
式
中
的
a
都
移
到
一
边
，
可
得
a
=
E
[
Y
]
−
b
E
[
X
]
=
E
[
X
Y
]
−
b
E
[
X
2
]
E
[
X
]
这
样
就
可
得
到
E
[
X
]
E
[
Y
]
−
b
E
2
[
X
]
=
E
[
X
Y
]
−
b
E
[
X
2
]
移
项
可
得
b
=
E
[
X
Y
]
−
E
[
X
]
E
[
Y
]
E
[
X
2
]
−
E
2
[
X
]
=
C
o
v
(
X
,
Y
)
V
a
r
(
X
)
首先因为Y=a+bX,在等式左右两边都套上期望，则可得到E[Y]=a+bE[X] \\ 又在等式两边同乘一个x，在套上期望，则可得到E[XY] = aE[X] + bE[X^2] \\ 将这两个等式中的a都移到一边，可得a=E[Y]-bE[X]=\frac{E[XY]-bE[X^2]}{E[X]} \\ 这样就可得到E[X]E[Y]-bE^2[X] =E[XY]-bE[X^2]\\ 移项可得b=\frac{E[XY]-E[X]E[Y]}{E[X^2]-E^2[X]} = \frac{Cov(X,Y)}{Var(X)}
首先因为Y=a+bX,在等式左右两边都套上期望，则可得到E[Y]=a+bE[X]又在等式两边同乘一个x，在套上期望，则可得到E[XY]=aE[X]+bE[X2]将这两个等式中的a都移到一边，可得a=E[Y]−bE[X]=E[X]E[XY]−bE[X2]这样就可得到E[X]E[Y]−bE2[X]=E[XY]−bE[X2]移项可得b=E[X2]−E2[X]E[XY]−E[X]E[Y]=Var(X)Cov(X,Y)
以上就是第一种表达的由来了。
希望上述内容有帮助到你！
1078
02-07
“相关推荐”对你有帮助么？
-
非常没帮助 -
没帮助 -
一般 -
有帮助 -
非常有帮助
提交
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
