tensflow和pytorch是自动求导的,看不到求导的过程,所以我们在这里用numpy推导一下多层感知机的求导过程。
以手写数字识别为例,做一个三层的神经网络。分别是输入层,隐藏层,输出层,激活函数使用sigmod函数。
矩阵相乘,参考下方
梯度的符号就是nabla,就是数学中的
本次采用的感知机结构的公式如下图
tensflow和pytorch是自动求导的,看不到求导的过程,所以我们在这里用numpy推导一下多层感知机的求导过程。
以手写数字识别为例,做一个三层的神经网络。分别是输入层,隐藏层,输出层,激活函数使用sigmod函数。
矩阵相乘,参考下方
梯度的符号就是nabla,就是数学中的
本次采用的感知机结构的公式如下图