简单回归模型(二):OLS最小二乘法

简单回归模型(二)

拟合优度

已知: y i = y ^ i + u ^ i y_i=\hat y_i+\hat u_i yi=y^i+u^i,可以把OLS分成拟合值和残差两个部分,在样本中,拟合值和残差是不相关的。定义总平方和(SST)解释平方和(SSE),和**残差平方和(SSR)**如下:

S S T = ∑ i = 1 n ( y i − y ˉ ) 2 SST=\sum_{i=1}^{n}(y_i-\bar y)^2 SST=i=1n(yiyˉ)2

S S R = ∑ i = 1 n ( y ^ i − y ˉ ) 2 SSR=\sum_{i=1}^{n}(\hat y_i-\bar y)^2 SSR=i=1n(y^iyˉ)2

S S R = ∑ i = 1 n u i 2 = ∑ i − 1 n ( y i − y ˉ ) 2 SSR=\sum_{i=1}^{n}u_i^2=\sum_{i-1}^{n}(y_i-\bar y)^2 SSR=i=1nui2=i1n(yiyˉ)2

容易证得: S S T = S S E + S S R SST=SSE+SSR SST=SSE+SSR

假定总平方和SST不为零,我们可以通过将方程两边同时除以SST得到 1 = S S E / S S T + S S R / S S T 1=SSE/SST+SSR/SST 1=SSE/SST+SSR/SST。回归的 R 2 R^2 R2有时又被称为判定系数,是被解释波动与总波动之比,被定义为:

R 2 = S S E / S S T = 1 − S S R / S S T R^2=SSE/SST=1-SSR/SST R2=SSE/SST=1SSR/SST

根据该方程, R 2 R^2 R2的值总是介于0和1之间。若所有数据点都落在同一条直线上,此时 R 2 = 1 R^2=1 R2=1;同理,一个接近于零的 R 2 R^2 R2给出了一个糟糕的拟合,因为 y i y_i yi的波动极少能被 y ˉ \bar y yˉ所解释(后者全部落在OLS回归线上)。另外,可以证明 R 2 R^2 R2等于 y i y_i yi x i x_i xi样本相关系数的平方:

R 2 = ∑ i = 1 n y ^ i 2 ∑ i = 1 n y i 2 = β ^ 1 2 ∑ i = 1 n x i 2 ∑ i = 1 n y i 2 = ⋯ = r 2 R^2=\frac{\sum_{i=1}^n\hat y_i^2}{\sum_{i=1}^ny_i^2}=\frac{\hat \beta_1^2\sum_{i=1}^n x_i^2}{\sum_{i=1}^ny_i^2}=\cdots=r^2 R2=i=1nyi2i=1ny^i2=i=1nyi2β^12i=1nxi2==r2

(太麻烦了不写了)

注意: R 2 R^2 R2不能作为评价计量分析成功与否的主要准则!

度量单位与函数形式

当自变量和因变量的单位发生变化时,OLS的估计值也会发生变化。一般的自变量被除以或乘以一个非零的常数c时,OLS的斜率和截距也会分别被乘以或除以c,但判定系数 R 2 R^2 R2不会因y或x的单位变化而变化。

我们也可以把许多非线性因素引入到简单回归分析之中,例如:对于一个变量为非线性形式的模型: Y = β 0 X 1 β Y=\beta_0X^\beta_1 Y=β0X1β,我们可以通过一定的函数变换得到一个新的模型,如 l n Y = l n β 0 + β 1 l n X lnY=ln\beta_0+\beta_1lnX lnY=lnβ0+β1lnX,令 W = l n Y W=lnY W=lnY Z = l n X Z=lnX Z=

  • 4
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值