数学建模之BP神经网络

1. BP网络基本数学原理

BP网络是一种多层前馈神经网络,它的名字源于在网络训练中,调整网络权值的训练算法是反向传播算法(即BP学习算法).
BP网络是一种具有三层或者三层以上神经元的神经网络,包括输入层,隐含层和输出层,上下层之间实现全连接,而同一层的神经元之间无连接,输入层神经元和隐含层神经元之间的是网络的权值,即两个神经元之间的连接强度.隐含层或输出层任一神经元将前一层所有神经元传来的信息进行整合,通常还会在整合的信息中添加一个阈值.当一对学习样本提供给输入神经元后,神经元的激活值(该层神经元输出值)从输入层经过各隐含层向输出层传播,在输出层的各神经元获得网络的输入响应,然后按照减少网络输出与实际输出样本之间误差的方向,从输出层反向经过各隐含层回到输入层,从而逐步修正各隐含权值,这种算法称为误差反向传播算法,即BP算法.
随着这种误差逆向传播修正的反复进行,网络对输入模式的正确率也不断上升.BP算法的核心是数学中的负梯度下降理论,即BP算法总是沿着误差下降最快的方向进行.

2. BP网络求解过程

(1) 原始数据的输入
(2) 数据归一化
(3) 网络训练
(4) 对原始数据进行仿真
(5) 将原始数据仿真的结果与已知样本进行对比
(6) 对新数据进行仿真

3. 实例:基于matlab工具箱公路运量预测

clc                          % 清屏
clear all;                  %清除内存以便加快运算速度
close all;                  %关闭当前所有figure图像
%原始数据 
%人数(单位：万人)
sqrs=[20.55 22.44 25.37 27.13 29.45 30.10 30.96 34.06 36.42 38.09 39.13 39.99 ...
       41.93 44.59 47.30 52.89 55.73 56.76 59.17 60.63];
%机动车数(单位：万辆)
sqjdcs=[0.6 0.75 0.85 0.9 1.05 1.35 1.45 1.6 1.7 1.85 2.15 2.2 2.25 2.35 2.5 2.6...
        2.7 2.85 2.95 3.1];
%公路面积(单位：万平方公里)
sqglmj=[0.09 0.11 0.11 0.14 0.20 0.23 0.23 0.32 0.32 0.34 0.36 0.36 0.38 0.49 ... 
         0.56 0.59 0.59 0.67 0.69 0.79];
%公路客运量(单位：万人)
glkyl=[5126 6217 7730 9145 10460 11387 12353 15750 18304 19836 21024 19490 20433 ...
        22598 25107 33442 36836 40548 42927 43462];
%公路货运量(单位：万吨)
glhyl=[1237 1379 1385 1399 1663 1714 1834 4322 8132 8936 11099 11203 10524 11115 ...
        13320 16762 18673 20724 20803 21804];
p=[sqrs;sqjdcs;sqglmj];  %输入数据矩阵
t=[glkyl;glhyl];           %目标数据矩阵
%利用mapminmax函数对数据进行归一化
[pn,input_str]=mapminmax(p);
[tn,output_str]=mapminmax(t);
%建立BP神经网络,相对旧一点的matlab版本,新版本中newff函数使用更简洁一些
net=newff(pn,tn,[3 7 2],{'purelin','logsig','purelin'});
%10轮回显示一次结果
net.trainParam.show=10;
%学习速度为0.05
net.trainParam.lr=0.05;
%最大训练次数为5000次
net.trainParam.epochs=5000;
%均方误差
net.trainParam.goal=0.65*10^(-3);
%网络误差如果连续6次迭代都没有变化,训练将自动终止(系统默认的)
%为了让程序继续运行,用以下命令取消这条设置
net.divideFcn='';
%开始训练,其中pn,tn分别为输入输出样本
net=train(net,pn,tn);
%利用训练好的网络,基于原始数据对BP网络仿真
an=sim(net,pn);

%利用函数mapminmax把仿真得到的数据还原为原始的数量级
%新版本推荐训练样本归一化和反归一化都使用mapminmax函数
a=mapminmax('reverse',an,output_str);
%本例因样本容量有限,使用训练数据进行测试,通常必须用新鲜数据进行测试
x=1990:2009;
newk=a(1,:);
newh=a(2,:);
figure(2);
%绘制公路客运量对比图
subplot(2,1,1);plot(x,newk,'k-o',x,glkyl,'b--+')
legend('网络输出客运量','实际客运量');
xlabel('年份');
ylabel('客运量/万人');
title('运用工具箱客运量学习和测试对比图');
%绘制公路货运量对比图
subplot(2,1,2);plot(x,newh,'r-o',x,glhyl,'b--+')
legend('网络输出货运量','实际货运量');
xlabel('年份');ylabel('货运量/万吨');
title('运用工具箱货运量学习和测试对比图');
% 利用训练好的网络进行预测
%2010年和2011年的相关数据
% 当用训练好的网络对新数据pnew进行预测时，也应作相应的处理
pnew=[73.39 75.55
      3.9635 4.0975
      0.9880 1.0268];  
%利用原始输入数据的归一化参数对新数据进行归一化
pnewn=mapminmax('apply',pnew,input_str);
%利用归一化的数据进行仿真
anewn=sim(net,pnewn);
%把仿真得到的数据还原为原始的数量级
anew=mapminmax('reverse',anewn,output_str)

程序输出:

参考: MATLAB在数学建模中的应用.