最近在学习机器学习,看的是吴恩达老师的视频。在神经网络反向传播公式这一节,吴恩达只给出了公式结果,没有给出公式推导过程。
关于公式推导过程,我找到一篇还不错的博客,地址如下:
https://blog.csdn.net/xuan_liu123/article/details/83660316
但是这篇博客中仍有两个令人困惑的点,现作解释如下,希望能够对大家有所帮助。
第一点是大家可能不明白
为什么等于
推导过程如下:
其中要知道h(x)是sigmoid函数以及是及激活函数
第二个点在于上面那篇博客的作者将叫做误差矩阵,这会与
产生混淆。实际上两者之间没有关系,
单纯指的就是代价函数对参数的偏导,其推导公式如下: