回归问题分类
线性回归
多元线性回归
(1)
y
=
β
0
+
β
1
x
1
+
.
.
.
+
β
m
x
m
y=\beta_{0}+\beta_{1}x_{1}+...+\beta_{m}x_{m}
y=β0+β1x1+...+βmxm
- b=regress(Y, X ) 确定回归系数的点估计值
- [b, bint,r,rint,stats]=regress(Y,X,alpha) 求回归系数的点估计和区间估计、并检验回归模型
- b是系数
- bint 表示回归系数的区间估计
- r表示残差
- rint 表示置信区间
- stats 表示用于检验回归模型的统计量,有三个数值:相关系数
r
2
r^{2}
r2,F值,与 F 对应的概率
p
p
p
PS:F 越大,说明回归方程越显著;与 F 对应的概率 p<α 时拒绝原假设H0 - alpha 表示显著性水平(缺省时为 0.05)
- rcoplot(r,rint) 画出残差及其置信区间
一元多项式回归
(2)
y
=
a
1
x
m
+
a
2
x
m
−
1
+
.
.
.
+
a
m
x
+
a
m
+
1
y=a_{1}x^{m}+a_{2}x^{m-1}+...+a_{m}x+a_{m+1}
y=a1xm+a2xm−1+...+amx+am+1
- [p,S]=polyfit(x,y,m)
- p 是多项式系数
- S是一个矩阵,用来估计预测误差
- polytool(x,y,m) 调用多项式回归 GUI 界面,参数意义同 polyfit
- Y=polyval(p,x) 求 polyfit 所得的回归多项式在 x 处的预测值 Y
- [Y,DELTA]=polyconf(p,x,S,alpha) 求 polyfit 所得的回归多项式在 x 处的预测值 Y 及预测值的显著性为 1-alpha 的置信区间 Y±DELTA,alpha 缺省时为 0.5
多元二项式回归
(3) PureQuadratic(纯二次):
y
=
β
0
+
β
1
x
1
+
.
.
.
+
β
m
x
m
+
∑
j
=
1
m
β
j
j
x
j
2
y=\beta_{0}+\beta_{1}x_{1}+...+\beta_{m}x_{m}+\sum_{j=1}^{m}\beta_{jj}x_{j}^{2}
y=β0+β1x1+...+βmxm+∑j=1mβjjxj2
(4) Interaction(交叉):
y
=
β
0
+
β
1
x
1
+
.
.
.
+
β
m
x
m
+
∑
1
≤
j
≠
k
≤
m
β
j
k
x
j
x
k
y=\beta_{0}+\beta_{1}x_{1}+...+\beta_{m}x_{m}+\sum_{1\leq j\neq k\leq m}\beta_{jk}x_{j}x_{k}
y=β0+β1x1+...+βmxm+∑1≤j=k≤mβjkxjxk
(5) Quadratic(完全二次):
y
=
β
0
+
β
1
x
1
+
.
.
.
+
β
m
x
m
+
∑
1
≤
j
,
k
≤
m
β
j
k
x
j
x
k
y=\beta_{0}+\beta_{1}x_{1}+...+\beta_{m}x_{m}+\sum_{1\leq j,k\leq m}\beta_{jk}x_{j}x_{k}
y=β0+β1x1+...+βmxm+∑1≤j,k≤mβjkxjxk
- rstool(x,y,‘model’,alpha)
- x:n*m 矩阵
- Y:n 维列向量
- alpha:显著性水平(缺省时为 0.05)
- mode:取值’linear’,‘purequadratic’,‘interaction’或’quadratic’,对应(1)(3)(4)(5) 4个模型(缺省为线性模型)
非线性回归
- [beta,r,J]=nlinfit(x,y,‘modelfun’, beta0) 非线性回归系数的命令
- nlintool(x,y,‘modelfun’, beta0,alpha) 非线性回归 GUI 界面
- beta:估计出的回归系数;
- r: 残差
- J: Jacobian 矩阵
- x,y:输入数据 x、y 分别为矩阵和 n 维列向量,对一元非线性回归,x 为 n 维列向量
- modelfun:M 函数、匿名函数或 inline 函数,定义的非线性回归函数.(详见doc nlinfit)
- beta0:回归系数的初值
- [Y,DELTA]=nlpredci(‘modelfun’, x,beta,r,J) 获取 x 处的预测值 Y 及预测值的显著性为 1-alpha 的置信区间 Y±DELTA
逐步回归
- stepwise(x,y,inmodel,alpha) 根据数据进行分步回归
- stepwise 直接调出分步回归 GUI 界面
- x:自变量数据, 阶矩阵
- y:因变量数据, 阶矩阵
- inmodel:矩阵的列数的指标,给出初始模型中包括的子集(缺省时设定为全部自变量)
- alpha:显著性水平(缺省时为 0.5)