keep_vitality的博客

原创 《模式分类》学习笔记之BP神经网络实现

代码地址： https://github.com/gzhcv/ThreeLayerNet1 目的把推导的过程自己走一遍，以便觉察到自己存在的理解缺口。写三层神经网络是一是为了清楚每层梯度与哪些量有关，二是为了需要的时候能够在框架上添加新层。2 公式推导 一个的三层全连接神经网络(这里把输入层也算作一层)。注意这里省略了偏置b，以下推导也不考虑偏置b。符号约定i, j, k 分别表示输入层单元