一元线性回归
1. 变量间的关系
自然界和社会经济中的事物或现象之间总是相互联系、相互依存、相互制约的,而反映这些联系的数量关系有两种:一种是函数关系,另一种是相关关系。
-
函数关系 是一种确定性关系,它是指当一个或几个变量取值一定时,另一个变量有确定的值与之对应,并且可以用函数描述出来。比如,某商品的销售收入I与该商品的销售量Q和销售价格之间P,可以这样表示:I=PQ。
-
相关关系 是一种非完全确定的关系,无法用确定的函数关系式表达。其特点在于变量之间在数量上确实存在着一定的内在联系,但这种在数量上的依存关系是不确定的,具有一定的随机性。
2. 回归分析
回归分析的主要研究对象是客观事物变量间的统计关系,是处理多个变量之间相关关系的一种数学方法。
在回归分析中,将一类变量视为解释变量,即自变量,而另一类变量视为被解释变量,即因变量。自变量可以是一个,也可以是多个,但因变量只能是一个。自变量只有一个时称为一元线性回归,自变量有两个及以上的回归分析称为多元回归分析。如果变量之间的关系为直线关系,称为线性回归,否则为非线性回归。
3. 一元线性回归模型
一元线性回归模型反映的是一个因变量 ( Y ) (Y) (Y)和一个自变量 ( X ) (X) (X)之间的线性关系,其一般形式为:
Y = β 0 + β 1 X + ϵ Y=\beta_0+\beta_1X+\epsilon Y=β0+β1X+ϵ
上式中, β 0 \beta_0 β0、 β 1 \beta_1 β1为待估参数, ϵ \epsilon ϵ为随机误差项,通常假定 ϵ ∼ N ( 0 , σ 2 ) \epsilon \sim N(0,\sigma ^2) ϵ∼N(0,σ2) 。
下面通过例子来说明如何建立一元回归模型。
假设在某一社区中随机抽取了10个家庭研究其家庭收入与家庭食品支出的关系,得到表1的数据,试根据这些数据建立家庭食品支出和家庭收入 x x x之间的相关关系。
表1 家庭收入与食品支出(单位:百元)
家庭 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
---|---|---|---|---|---|---|---|---|---|---|
家庭收入 | 20 | 30 | 33 | 40 | 15 | 13 | 26 | 38 | 35 | 43 |
食品支出 | 7 | 9 | 8 | 11 | 5 | 4 | 8 | 10 | 9 | 10 |
首先,以家庭收入为自变量,家庭食品支出为因变量,画出表1中家庭收入与食品支出数据的散点图
import matplotlib.pyplot as plt
import numpy as np
from pylab import *
x = np.array([20,30,33,40,15,13,26,38,35,43])
y = np.array([7,9,8,11,5,4,8,10