3.1
最小二乘法
有三种方式可以实现最小二乘法的简单线性回归,假设数据
byu
(
1
)
lm(byu$salary ~ byu$age + byu$exper)
(
2
)
lm (salary ~ age + exper, data= byu)
(
3
)
attach(byu)
lm(salary~age+exper)
lm()
只能得出回归系数,
要想得到更为详尽的回归信息,
应该将结果作为数
据保存或者使用“拟合模型”(
fitted model
)
result
summary(result)
myresid
获得残差
vcov(result)
#针对于拟合后的模型计算方差-协方差矩阵
回归中允许使用诸如
log
()和
sqrt
()等相对复杂的项目作为自变量,但
如果设计幂,就必须先计算,然后才能回归;或者使用
I
()
,它可以在对公式
估值前强制完成计算
salary$agesq
result
lm(salary
~
age
+
agesq
+
log(exper)
+
age*log(exper),data=byu)
或者
result
lm(salary
~
age
+
I(age^2)
+
log(exper)
+
age*log(exper),data=byu)
如果我们要进行无常数项,一般在回归中引入
0
result
3.2
从回归中提取统计量
一些统计量和参数都被存储在
lm
或者
summary
中
output
SSR
deviance
(
result
)
#
残
差
平
方
和
;
(
另
一
种
方
法
:
RSquared
output$r.squared)
LL
对数似然统计量
DegreesOfFreedom
自由度
Yhat
拟合值向量
Resid
s
误差标准差的估计值(假设同方差)
CovMatrix
系数的方差-协方差矩阵(与
vcov()
同)
3.3
异方差及相关问题
3.3.1
异方差的
Breusch
-
Pagan
检验
为了检验异方差是否存在,
我们可以用
lmtest
包中的
Breusch
-
Pagan
检验。
或者利用
car
包中的
ncv.test()
函数。二者工作的原理都是相同的。在回归之
后,我们可以对拟合的模型采用
bptest
()函数
unrestricted
bptest(unrestricted)
这将得到检验的“学生化的”(
studentized
)结果。如果为了保持与其他软件
结论的一致性(包括
ncv.test())
,我们可以设置
studentize=FALSE
3.3.2
异方差(自相关)稳健性协方差矩阵
在存在异方差的情况下,
ols
的估计是无偏的,但是所得到的关于
β
系数方