回归方法--一元回归，多元回归，逐步归回，Logistic 回归

数学建模专栏 | 第三篇：MATLAB数据建模方法(上) —常用方法 

2017-07-21 卓金武 MATLAB

 

作 者 简 介

卓金武，MathWorks中国高级工程师，教育业务经理，在数据分析、数据挖掘、机器学习、数学建模、量化投资和优化等科学计算方面有多年工作经验，现主要负责MATLAB校园版业务。曾2次获全国大学生数学建模竞赛一等奖，1次获全国研究生数学建模竞赛一等奖。

 

以数据为基础而建立数学模型的方法称为数据建模方法， 包括回归、统计、机器学习、深度学习、灰色预测、主成分分析、神经网络、时间序列分析等方法， 其中最常用的方法还是回归方法。 本讲主要介绍在数学建模中常用几种回归方法的 MATLAB 实现过程。

根据回归方法中因变量的个数和回归函数的类型（线性或非线性）可将回归方法分为:一元线性、一元非线性、多元回归。另外还有两种特殊的回归方式，一种在回归过程中可以调整变量数的回归方法，称为逐步回归，另一种是以指数结构函数作为回归模型的回归方法，称为 Logistic 回归。本讲将逐一介绍这几个回归方法。

1. 一元回归

1.1 一元线性回归

[ 例1 ] 近 10 年来，某市社会商品零售总额与职工工资总额（单位：亿元）的数据见表3-1，请建立社会商品零售总额与职工工资总额数据的回归模型。

表1 商品零售总额与职工工资总额

该问题是典型的一元回归问题，但先要确定是线性还是非线性，然后就可以利用对应的回归方法建立他们之间的回归模型了，具体实现的 MATLAB 代码如下：

（1）输入数据

clc, clear all, close all

x=[23.80,27.60,31.60,32.40,33.70,34.90,43.20,52.80,63.80,73.40];

y=[41.4,51.8,61.70,67.90,68.70,77.50,95.90,137.40,155.0,175.0];

（2）采用最小二乘回归

Figure

plot(x,y,'r*')                         %作散点图

xlabel('x（职工工资总额）','fontsize', 12)           %横坐标名

ylabel('y（商品零售总额）', 'fontsize',12)           %纵坐标名

set(gca,'linewidth',2);

% 采用最小二乘拟合

Lxx=sum((x-mean(x)).^2);

Lxy=sum((x-mean(x)).*(y-mean(y)));

b1=Lxy/Lxx;

b0=mean(y)-b1*mean(x);

y1=b1*x+b0;

hold on

 

plot(x, y1,'linewidth',2);

运行本节程序，会得到如图 1 所示的回归图形。在用最小二乘回归之前，先绘制了数据的散点图，这样就可以从图形上判断这些数据是否近似成线性关系。当发现它们的确近似在一条线上后&