用Python+Numpy模块实现神经网络(四) 续集
7. 偏导数与偏导数链式法则
hi,大家好,欢迎阅读本篇博客,在上一篇中,我们知道了矩阵运算对于神经网络的重要性,并用Python亲手实践了一个简单的二层神经网络的前向传播。在这一篇中,我们又要引入(复习)两个数学概念:偏导数与偏导数链式法则。
什么是偏导数?还记得前几篇博客中提到的导数吗(在《用Python+Numpy模块实现神经网络(三)》提到),我们计算导数的时候,函数是,也就是说,这个函数只有一个自变量,那么假如这个函数是,那么我们就无法给x与y同时求导,而是针对一个自变量求导,假如在上边函数中,我只想知道x的导数,我们可以叫他——关于x的偏导数。那么具体如何求呢(我们把关于x的偏导数记作,同理,我们把关于y的偏导数记作):