matlab中bp神经网络的一些问题

      在学习了BP前馈反向传播神经网络之后，想利用matlab中的神经网络工具箱实现以下。在查看了相关资料以后，就开始动手了。主要运用的函数是：

net = newff(P, T, [], TFi, …);

net = train(net, P, T)

sim(net, P)

看起来很简单的3个函数，用起来产生了一些困惑。

刚开始训练的数据是XOR异或问题。

Inputs = [-1 -1 1 1; -1 1 -1 1]

Targets = [0 1 1 0];

看到targets的数据就知道最后的输出是一维的。就是异或的结果。

这里想详细说明一下newff函数。

Newff函数主要用于建立一个网络。通过inputs，targets等，我们告诉matlab要建立几层网络，每层隐含层的神经元的个数是多少。输入是几维的，输出又是几维的数据，同时还有设置隐含层和输出层的激活函数的形式等。我把激活函数都设置成了线性的’purelin’，也就是f(x) = x。

         建立完网络之后，我们就可以对其进行训练了。Train(net, inputs, targets)进行训练。训练完之后，就可以模拟了。

然后，我输入sim(net,inputs)。它输出了一些数据。当然和targets的差距还是很大的。同时我对最后的输出结果是如何得到的感兴趣。于是，我就使用net.IW, net.LW, 和net.b三个结构获得了神经网络需要的权重和偏置。根据输入手工地去计算。自己计算的结果和网络最后输出的结果不一样。使用不同的训练样本，来进行训练，模拟同样产生了这个问题。

这时一个问题就浮现在了面前。

怎么办？一定要解决。看看到底是怎么回事？

结果的过程是曲折的。在这里先给出结论：

对于matlab中的newff生成的网络，它都有一个默认的b（网络偏置，（自己起的名字））直接加在了最后的输出上。不同的网络有不同的默认b值。这里所说的不同的网络，即使网络结构相同，但是只要net.LW的值不一样，b值就不一样。同时对于每一层的bias，它默认权值为1.5，而不是1。其它的和预想的是一样的。如下面的网络：

在该图中，获得net的偏置集合，同时获得各个权值，获得网络偏置，给定输入，如果激活函数是线性的话，就可以模拟网络的输出了。

1.      使用newff建立一个网络。然后人为手工对各个权值和偏置进行赋值。在不经过训练的前提下，直接使用sim (net, inputs)。同时给的inputs是0向量，同时偏置赋值为0.这样会输出网络偏置。

2.      将偏置变为1，而inputs依然为0向量，发现最后的输出是偏置的1.5倍。

3.      将偏置重置为0，inputs依然为0向量，改变各个权值(这里包含两部分：net.IW和net.LW)得出结论如下：当改变net.IW时，最后的输出和step1是一样的；当改变net.LW时，最后的输出发生了改变，也就是net.LW决定着网络偏置。

4.      在一个网络中，给定输入inputs，按照上图的计算方法，最后人工计算结果和网络最后的输出结果一致。