【详细】一步一步实现一个BP神经网络-逐行代码解说

本文来自《老饼讲解-BP神经网络》https://www.bbbdata.com/

要如何使用代码实现一个BP神经网络呢?
下面跟随笔者,一步一步详细来实现,再对代码进行详细解说。
通过本文可以详细掌握怎么使用matlab来实现一个BP神经网络。

一、一步一步实现一个BP神经网络

1.1.数据介绍

现有数据如下
BP的数据说明
x1, x2 为输入,y 为对应的输出,现需要训练一个网络,用 x1, x2 预测 y

1.2.BP神经网络结构设置

BP的通用结构如下
BP的通用结构
在通用结构中,包含了输入层、隐层和输出层,
隐层和输出层的神经元都有自己的阈值和激活函数
它属于前馈型神经网络,即神经元是层层连接、逐层向前传递,
在本例子中,我们这里采用的结构如下
1:节点个数设置: 输入层、隐层、输出层的节点个数分别为[2 ,3,1]。
2:传递函数设置:隐层( tansig函数)。输出层(purelin函数)。
3:训练方式:trainlm。
完整示例见: 一个简单的BP神经网络例子

1.3.BP神经网络matlab代码实现

通过代码,使用数据对上面的BP神经网络模型进行训练,
下面是matlab2018a的代码实现

x1 = [-3,-2.7,-2.4,-2.1,-1.8,-1.5,-1.2,-0.9,-0.6,-0.3,0,0.3,0.6,0.9,1.2,1.5,1.8];   % x1:x1 = -3:0.3:2;
x2 = [-2,-1.8,-1.6,-1.4,-1.2,-1,-0.8,-0.6,-0.4,-0.2,0,0.2,0.4,0.6,0.8,1,1.2];       % x2:x2 = -2:0.2:1.2;
y  = [0.6589,0.2206,-0.1635,-0.4712,-0.6858,-0.7975,-0.8040,...
          -0.7113,-0.5326,-0.2875 ,0,0.3035,0.5966,0.8553,1.0600,1.1975,1.2618];    % y: y = sin(x1)+0.2*x2.*x2;

inputData  = [x1;x2];                                                               % 将x1,x2作为输入数据
outputData = y;                                                                     % 将y作为输出数据
setdemorandstream(88888);                                                           % 指定随机种子,这样每次训练出来的网络都一样。

%使用用输入输出数据(inputData、outputData)建立网络,
%隐节点个数设为3.其中隐层、输出层的传递函数分别为tansig和purelin,使用trainlm方法训练。

net = newff(inputData,outputData,3,{'tansig','purelin'},'trainlm');

%设置一些常用参数
net.trainparam.goal = 0.0001;                                                        % 训练目标:均方误差低于0.0001
net.trainparam.show = 400;                                                           % 每训练400次展示一次结果
net.trainparam.epochs = 15000;                                                       % 最大训练次数:15000.
[net,tr] = train(net,inputData,outputData);                                          % 调用matlab神经网络工具箱自带的train函数训练网络
											                                         
simout = sim(net,inputData);                                                         % 调用matlab神经网络工具箱自带的sim函数得到网络的预测值
figure;                                                                              % 新建画图窗口窗口
t=1:length(simout);                                                                  
plot(t,y,t,simout,'r')                                                               % 画图,对比原来的y和网络预测的y

一些读者在网上或书上借鉴的matlab实现BP神经网络的代码,往往这些代码非常长,主要是因为其中包括了归一化等相关处理
事实上,自matlab2012b之后,matlab神经网络工具箱已经作了高度封装,因此现在使用matlab构建BP神经网络已经节省了非常多的代码,建议初学者先按本文的代码进行学习和理解

二、BP神经网络代码详细解释

以下面的简单代码为例,一步一步解释代码的意义

X = [1,2,3,5,8];                                           % 输入数据X
y= [4,10,20,52,130];                                       % 输出数据y 
net = newff(X,y,3,{'tansig','purelin'},'trainlm') ;        % 构建一个BP神经网络
net.trainparam.goal = 0.00001;                             % 训练目标:均方误差低于0.00001
[net,tr,net_y] = train(net,X,y);                           % 训练网络
train_err = mean(abs(net_y(tr.trainInd)-y(tr.trainInd)));  % 训练数据的误差
test_err  = mean(abs(net_y(tr.testInd)-y(tr.testInd)));    % 测试数据的误差
sim_y = sim(net,X);                                        % 使用训练好的网络对X进行预测

2.1.第1-2行的代码解说

第一第二行的matlab代码是训练数据的输入和输出
第一第二行的matlab代码
BP神经网络工具箱的输入和输出都是矩阵
 BP神经网络工具箱的输入和输出
PASS:matlab的神经网络每一列代表一个样本,每行代表一个变量, 切记

2.2.第3-5行的代码解说

代码的第3、4、5是BP神经网络的设置与训练
构建一个BP神经网络代码
BP神经网络代码讲解-片段2, 各行的具体含义如下
👉 第三行用于构建一个BP神经网络
👉 第四行用于设置训练的参数(可不设置)
👉 第五行用于训练网络
newff是matlab用于初始化一个BP神经网络的函数,它的参数意义如下:

  • 3代表只有一个节点数为3的隐层
    如果换成[4,5]则代表有两个隐层,第一个隐层有4个节点,第二个隐层有5个节点
  • {‘tansig’,‘purelin’}则代表隐层、输出层的激活函数分别为tansig和purelin,
    如果有两个隐层,就需要给两个隐层设置激活函数,例如{‘tansig’,‘tansig’,‘purelin’}
  • trainlm则是我们的训练函数,代表用lm算法训练网络
    也可设为’traingd’,代表用梯度下降算法训练网络,但强烈建议用默认的trainlm*

2.3.第6-8行的代码解说

代码的第6、7行用于查看网络的误差
第8行则是用训练好的BP神经网络进行预测
查看BP神经网络的误差

  • BP神经网络的误差
    第5行网络训练时获得的net_y存放了网络的预测值,只需根据tr.trainInd、tr.testInd获取训练数据、测试数据的索引,就可以计算出相应的训练误差和测试误差
  • BP神经网络的预测
    最后,我们只需要使用sim函数就可以用训练好的网络对新数据进行预测了 ,sim_y = sim(net,X)代表用训练好的net对X进行预测,sim_y就是预测结果

相关链接:

《老饼讲解-机器学习》:老饼讲解-机器学习教程-通俗易懂
《老饼讲解-神经网络》:老饼讲解-matlab神经网络-通俗易懂
《老饼讲解-神经网络》:老饼讲解-深度学习-通俗易懂

  • 33
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
以下是使用Python代码实现bp神经网络1-10数字识别的示例: ```python import numpy as np # 定义sigmoid函数 def sigmoid(x): return 1 / (1 + np.exp(-x)) # 定义sigmoid函数的导数 def sigmoid_derivative(x): return x * (1 - x) # 定义bp神经网络类 class NeuralNetwork: def __init__(self, x, y): self.input = x self.weights1 = np.random.rand(self.input.shape[1], 4) self.weights2 = np.random.rand(4, 1) self.y = y self.output = np.zeros(self.y.shape) def feedforward(self): self.layer1 = sigmoid(np.dot(self.input, self.weights1)) self.output = sigmoid(np.dot(self.layer1, self.weights2)) def backprop(self): d_weights2 = np.dot(self.layer1.T, (2 * (self.y - self.output) * sigmoid_derivative(self.output))) d_weights1 = np.dot(self.input.T, (np.dot(2 * (self.y - self.output) * sigmoid_derivative(self.output), self.weights2.T) * sigmoid_derivative(self.layer1))) self.weights1 += d_weights1 self.weights2 += d_weights2 def train(self, X, y): self.output = self.predict(X) self.backprop() def predict(self, X): self.input = X self.feedforward() return self.output # 训练数据 X = np.array([[0, 0, 0, 0, 0, 0, 1, 0, 0, 0], # 0 [0, 0, 0, 0, 1, 0, 0, 0, 0, 0], # 1 [0, 0, 1, 0, 0, 0, 0, 0, 0, 0], # 2 [0, 0, 0, 0, 1, 0, 1, 0, 0, 0], # 3 [0, 0, 0, 0, 0, 0, 1, 0, 1, 0], # 4 [0, 0, 0, 0, 0, 0, 0, 1, 0, 0], # 5 [0, 0, 0, 0, 0, 0, 0, 1, 1, 0], # 6 [0, 0, 0, 0, 1, 0, 0, 0, 0, 0], # 1 [0, 0, 0, 0, 0, 0, 0, 1, 0, 0], # 5 [0, 0, 0, 0, 0, 0, 0, 1, 1, 0]]) # 6 y = np.array([[1], [2], [3], [4], [5], [6], [7], [2], [5], [6]]) # 创建bp神经网络 nn = NeuralNetwork(X, y) # 训练bp神经网络 for i in range(10000): nn.train(X, y) # 预测数字 print(nn.predict(np.array([[0, 0, 0, 0, 1, 0, 1, 0, 0, 0]]))) # 预测为3 ``` 在上述代码中,我们首先定义了一个sigmoid函数和它的导数,然后定义了一个bp神经网络类,其中包含了前向传播、反向传播和训练等方法。接着,我们使用一个10维的数组来表示0-9这10个数字,使用一个1维的数组来表示对应的数字,然后使用这些数据来创建bp神经网络。最后,我们使用训练好的bp神经网络来预测数字。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

老饼讲解-BP神经网络

请老饼喝杯咖啡

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值