1、bp神经网络理论
以下内容摘自《人工神经网络理论、设计及应用》韩力群
2、阈值b反向传播调整公式推导
在《人工神经网络理论、设计及应用》韩力群,只是推导了权值误差调整公式,下面我推导一下阈值b的误差调整公式。
3、python 实现
下面代码是隐层与输出层不带阈值的情形:
from functions import *
x=np.array([[0,0,0],[0,1,1],[1,0,1],[0,0,1]])
t=np.array([[0],[1],[1],[0]])
class SimpleNet():
def __init__(self,input_size,hidden_size,output_size):
self.w0=np.random.random((3,4))-1
self.w1=np.random.random((4,1))-1
def sigmoid(self,x,bl=False):
if bl==True:
return x*(1-x)
return 1/(1+np.exp(-x))
net=SimpleNe