神经网络反向传播算法小结

1、误差函数对神经网络中每层每个连接权重的偏导数 = 该连接权重的终止节点的误差特性 * 该连接权重的起始节点的值o；

2、本层每个终止节点的误差特性  = 该节点的激活函数的偏导数（如sigmoid）* 下层输出节点误差特性与本节点到下层所有节点连接权重值的内积；

3、输出层的终止节点的误差特性 = 该节点的激活函数的偏导数 * 预测值和真实值的误差，前面隐层的终止节点的误差特性为点2，由下层的误差特性反向线性组合而得。