关闭

R语言回归分析之影响分析

标签: r语言数据影响分析
687人阅读 评论(0) 收藏 举报
分类:

说明
影响分析就是探查对估计有异常影响的数据,如果一个样本不遵从某个模型,但是其余数据遵从这个模型,称为这个样本点为强影响点,也称为高杠杆点,影响分析的一个重要功能就是区分这样的数据。
影响分析的方法有 dffits,dfbeta,dfbetas,cooks.distance,covratio,hatvalues,hat.

## 1. 回归分析
21个儿童测试值,x为月份,y为智力
intellect<-data.frame(
    x=c(15, 26, 10,  9, 15, 20, 18, 11,  8, 20, 7,
         9, 10, 11, 11, 10, 12, 42, 17, 11, 10),
    y=c(95, 71, 83,  91, 102,  87, 93, 100, 104, 94, 113,
        96, 83, 84, 102, 100, 105, 57, 121,  86, 100)
) 
lm.sol<-lm(y~1+x, data=intellect)
summary(lm.sol)
Call:
lm(formula = y ~ 1 + x, data = intellect)

Residuals:
    Min      1Q  Median      3Q     Max 
-15.604  -8.731   1.396   4.523  30.285 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 109.8738     5.0678  21.681 7.31e-15 ***
x            -1.1270     0.3102  -3.633  0.00177 ** 
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 11.02 on 19 degrees of freedom
Multiple R-squared:   0.41, Adjusted R-squared:  0.3789 
F-statistic:  13.2 on 1 and 19 DF,  p-value: 0.001769

分别通过了t检验与F检验

#回归诊断,调用influence.measures()并做回归诊断图
influence.measures(lm.sol)
Influence measures of
     lm(formula = y ~ 1 + x, data = intellect) :

     dfb.1_    dfb.x    dffit cov.r   cook.d    hat inf
1   0.01664  0.00328  0.04127 1.166 8.97e-04 0.0479    
2   0.18862 -0.33480 -0.40252 1.197 8.15e-02 0.1545    
3  -0.33098  0.19239 -0.39114 0.936 7.17e-02 0.0628    
4  -0.20004  0.12788 -0.22433 1.115 2.56e-02 0.0705    
5   0.07532  0.01487  0.18686 1.085 1.77e-02 0.0479    
6   0.00113 -0.00503 -0.00857 1.201 3.88e-05 0.0726    
7   0.00447  0.03266  0.07722 1.170 3.13e-03 0.0580    
8   0.04430 -0.02250  0.05630 1.174 1.67e-03 0.0567    
9   0.07907 -0.05427  0.08541 1.200 3.83e-03 0.0799    
10 -0.02283  0.10141  0.17284 1.152 1.54e-02 0.0726    
11  0.31560 -0.22889  0.33200 1.088 5.48e-02 0.0908    
12 -0.08422  0.05384 -0.09445 1.183 4.68e-03 0.0705    
13 -0.33098  0.19239 -0.39114 0.936 7.17e-02 0.0628    
14 -0.24681  0.12536 -0.31367 0.992 4.76e-02 0.0567    
15  0.07968 -0.04047  0.10126 1.159 5.36e-03 0.0567    
16  0.02791 -0.01622  0.03298 1.187 5.74e-04 0.0628    
17  0.13328 -0.05493  0.18717 1.096 1.79e-02 0.0521    
18  0.83112 -1.11275 -1.15578 2.959 6.78e-01 0.6516   *
19  0.14348  0.27317  0.85374 0.396 2.23e-01 0.0531   *
20 -0.20761  0.10544 -0.26385 1.043 3.45e-02 0.0567    
21  0.02791 -0.01622  0.03298 1.187 5.74e-04 0.0628 
influence.measures(lm.sol)
op <- par(mfrow=c(2,2), mar=0.4+c(4,4,1,1), 
          oma= c(0,0,2,0))
plot(lm.sol, 1:4)
par(op)

回归诊断图

influence.measures(lm.sol)函数得到的回归诊断共有7列,
其中1,2列是dfbetas值(对应常数与变量x),
第三例是dffits的准则值,
第三例是covratio的准则值,
第五例是cook值,第6例是帽子值(高杠杆值),
第七例影响点的标记,
inf表明18,19号是强影响点。

对诊断图分析:
第一张图是残差图,残差的方差满足齐性。
第二张图是正态QQ图,除19号外基本都在直线上,也就是说除19号点外残差满足正态性。
第三张图标准差的平方根与预测值的散点图,19号样本的值大于1.5,说明19号样本可能是异常值点(0.95范围外)
第四张图给出了COOK距离值,说明18号点可能是强影响点(高杠杆点)

处理强影响点:首先,是否录入有误。其次,修正数据。如果无法判断是否有误,采用剔除与加权的办法进行修正数据。

n<-length(intellect$x)
weights<-rep(1, n); weights[18]<-0.5
lm.correct<-lm(y~1+x, data=intellect, subset=-19,
               weights=weights)
summary(lm.correct)
Call:
lm(formula = y ~ 1 + x, data = intellect, subset = -19, weights = weights)

Weighted Residuals:
    Min      1Q  Median      3Q     Max 
-14.300  -7.539   2.700   5.183  12.229 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 108.8716     4.4290   24.58 2.67e-15 ***
x            -1.1572     0.2937   -3.94 0.000959 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 8.617 on 18 degrees of freedom
Multiple R-squared:  0.4631,    Adjusted R-squared:  0.4333 
F-statistic: 15.53 on 1 and 18 DF,  p-value: 0.0009594

在程序中,subset = -19表示去掉19样本。weights<-rep(1, n)所有点权赋为1,weights[18]<- 0.5,18号点为0.5,这样可以直观认为18号点对方程影响减少一半。

验证:两次计算的回归直线,和数据的散点图。

attach(intellect)
par(mai=c(0.8, 0.8, 0.2, 0.2))
plot(x, y, cex=1.2, pch=21, col="red", bg="orange")
abline(lm.sol, col="blue", lwd=2)
text(x[c(19, 18)], y[c(19, 18)], 
     label=c("19", "18"), adj=c(1.5, 0.3))
detach()
abline(lm.correct, col="red", lwd=2, lty=5)
legend(30, 120, c("Points", "Regression", "Correct Reg"), 
       pch=c(19, NA, NA), lty=c(NA, 1,5), 
       col=c("orange", "blue", "red"))

回归直线和散点图
从图中可以看出,19号样本的残差过大,而18号样本对整体回归直线有较大的影响。

检验:看修正之后是否有效

op <- par(mfrow=c(2,2), mar=0.4+c(4,4,1,1), oma= c(0,0,2,0))
plot(lm.correct, 1:4)
par(op)

修正后的诊断图

修正后的诊断图

0
0
查看评论

R语言案例分析:财政收入的多元相关与回归分析

R语言案例分析:财政收入的多元相关与回归分析 数据集下载 (mvcase3.xls)中的表Case3。  y:财政收入  x1:国内生产总值  x2:能源消费总量  x3:从业人员总数  x4:全社会固定资产投资总额...
  • Lynette_bb
  • Lynette_bb
  • 2016-11-15 19:01
  • 5239

R语言多元线性回归分析

还是之前的那个例子,只不过数据集增加了几列某商业银行2002年主要业务数据 分行编号 不良贷款(亿元) 各项贷款余额(亿元) 本年累计应收货款(亿元) 贷款项目个数(个) 本年固定资产投资额(亿元) 1 0.9 67.3 6.8 5 51.9 2 ...
  • hongjinlongno1
  • hongjinlongno1
  • 2016-08-27 22:29
  • 2487

用R进行多元线性回归分析建模

概念:多元回归分析预测法,是指通过对两个或两个以上的自变量与一个因变量的相关分析,建立预测模型进行预测的方法。当自变量与因变量之间存在线性关系时,称为多元线性回归分析。
  • Dr_Guo
  • Dr_Guo
  • 2016-05-31 22:20
  • 12946

R语言中的回归诊断

如何判断我们的线性回归模型是正确的? 1、回归诊断的基本方法 opar fit par(mfrow = c(2, 2)) plot(fit) par(opar) 为理解这些图形,我们来回顾一下OLS回归的统计假设。 (1)正态性(主要使用QQ图) 当预测变量值固定时,因...
  • u011955252
  • u011955252
  • 2016-02-23 13:16
  • 7716

R语言与回归分析学习笔记(应用回归小结)(1)

回归分析是计量与统计的一个核心话题。我的博客在这篇之前也写过两篇关于回归的文章:《R 语言与简单的回归分析》、《R语言与回归分析几个假设的检验》。后者很清楚的告诉了我们回归模型假设的严苛:响应变量不仅需要数值型的,而且还必须来自正态分布。但是在很多情况情况下他们是很难得到满足的:比如抽样调查时,我们...
  • yujun7654321
  • yujun7654321
  • 2013-07-05 01:59
  • 14994

R语言-回归分析及实现

一、数据探索阶段 1、了解变量类型 做回归分析前,了解数据集是怎样的?那些是数值型变量,那些是分类变量,这一步是相当重要的。 r代码: > class(mydata$Middle_Price) [1] "numeric" > class(mydata$MP...
  • qq_34941023
  • qq_34941023
  • 2016-06-29 00:18
  • 4094

R语言中的回归分析

1、简单线性回归分析 满足线性回归的几个要求: 用lm()拟合回归模型 lm(formula,data) 如何对拟合的结果进行评估? (1)简单的线性回归的例子 根据身高预测体重 fit summary(fit) Call: lm(formula =...
  • u011955252
  • u011955252
  • 2016-02-23 12:00
  • 3888

R语言之回归分析篇

回归分析: 相关分析:是否相关,相关方向,相关程度 7.1 一元线性回归 7.1.1 拟合模型 回归分析是将相关的因素进行测定,确定其因果关系,并以数学模型来表现其具体关系式,从而进行的各类统计分析。 其主要步骤有:建立回归模型、求解回归模型中的参数、对回归模型进行检验等 最小二程法: ...
  • lilanfeng1991
  • lilanfeng1991
  • 2014-01-28 14:06
  • 5098

R语言简单回归分析总结

R语言简单回归分析总结
  • qq_25564951
  • qq_25564951
  • 2016-09-28 22:40
  • 449

回归分析以及r语言实现(一)

一、数据探索阶段 1、了解变量类型 做回归分析前,了解数据集是怎样的?那些是数值型变量,那些是分类变量,这一步是相当重要的。 r代码:> class(mydata$Middle_Price)[1] “numeric”> class(mydata$MPG.city.)[1] “fac...
  • qq_35606497
  • qq_35606497
  • 2016-08-11 10:47
  • 928
    个人资料
    • 访问:94463次
    • 积分:2073
    • 等级:
    • 排名:千里之外
    • 原创:111篇
    • 转载:0篇
    • 译文:0篇
    • 评论:5条
    最新评论