回归分析算法

相关性分析：判断变量间有无关联

回归分析：构建变量间具体的函数关系

回归模型：一元线性回归 和 多元线性回归

一元线性回归

普通最小二乘法：

检验、预测与控制

 检验方法：

1）F检验（样本大于30时）

 2）t检验（样本小于30时）

3）r检验 

回归系数的置信区间

预测                                                                      控制     

可线性化的一元非线性回归（曲线回归）

 常用的目标函数及其线性化方法

 

多元线性回归

 模型参数估计                                                           多项式回归

检测与预测 

逐步回归分析

%% 例1
x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]';
X=[ones(16,1) x];%X第一列为1，x多少个数据对应多少行
Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]';
[b,bint,r,rint,stats]=regress(Y,X) %alpha默认0.05
%%% y=-16.0730+0.7194x
%%% bint分别是b的置信区间
%%% stats：r方，F值，概率p=0.0000

%% 画残差图
rcoplot(r,rint)

 多项式回归

%% 多项式回归
clear,clc
t=1/30:1/30:14/30;
s=[11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48];
[p,s]=polyfit(t,s,2)
%% 化为多元线性回归
clear,clc
t=1/30:1/30:14/30;
s=[11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48];
T=[ones(14,1) t' (t.^2)'];
[b,bint,r,rint,stats]=regress(s',T)

%% 多元二项式回归例题
clear,clc
x1=[1000 600 1200 500 300 400 1300 1100 1300 300];
x2=[5 7 6 6 8 7 5 4 3 9];
y=[100 75 80 70 50 65 90 100 110 60]';
x=[x1' x2'];
rstool(x,y,'purequadratic')
%% 化为多元线性回归
X=[ones(10,1) x1' x2' (x1.^2)' (x2.^2)'];
[b,bint,r,rint,stats]=regress(y,X);

 逐步回归

x1=[7 1 11 11 7 11 3 1 2 21 1 11 10]';
x2=[26 29 56 31 52 55 71 31 54 47 40 66 68]';
x3=[6 15 8 8 6 9 17 22 18 4 23 9 8]';
x4=[60 52 20 47 33 22 6 44 22 26 34 12 12]';
y=[78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4]';
x=[x1 x2 x3 x4];
stepwise(x,y)
%% 执行完后发现留下了x2和x3
X=[ones(13,1) x2 x3];
b=regress(y,X)