bp神经网络学习01

1、bp神经网络理论

以下内容摘自《人工神经网络理论、设计及应用》韩力群

2、阈值b反向传播调整公式推导

在《人工神经网络理论、设计及应用》韩力群，只是推导了权值误差调整公式，下面我推导一下阈值b的误差调整公式。

3、python 实现

下面代码是隐层与输出层不带阈值的情形：

from functions import *
x=np.array([[0,0,0],[0,1,1],[1,0,1],[0,0,1]])
t=np.array([[0],[1],[1],[0]])
class SimpleNet():
          def __init__(self,input_size,hidden_size,output_size):
                    self.w0=np.random.random((3,4))-1
                    self.w1=np.random.random((4,1))-1
          def sigmoid(self,x,bl=False):
                    if bl==True:
                              return x*(1-x)
                    return 1/(1+np.exp(-x))

net=SimpleNe