吴恩达老师DeepLearning系列课程最详细学习笔记之12—更多导数例子

教程是本人学习吴恩达老师DeepLearing系列课程中整理的最为详细的学习笔记。学习视频主要来自B站

https://www.bilibili.com/video/BV1FT4y1E74V?，以及DeepLearning官方网站

https://www.coursera.org/specializations/deep-learning。该系列课程总共有180多个，我会将学习笔记陆续分享出来，为有兴趣深度学习的同仁提供便利。再次由衷感谢吴恩达老师的精彩讲解和无私奉献！

特别说明：图片来源于吴恩达老师视频截图。

在这个视频中，我将给出一个更加复杂的例子。在这个例子中，函数在不同点处的斜率是不一样的。

先来举个例子：在这里画一个函数f(a)等于a的平方。来看看a等于2的点，f(a)=4。让我们稍微往右推进一点点，现在a等于2.001，而f(a)即a的平方约为4.004，但是，如果你用计算器计算的话，这个准确的值应该为4.004001，为了简便起见，省略了后面的部分。我们重新在图上画一下，当a=2时，那么f(a)=4 ，这里的x轴和y轴的比例还是不太准确，实际上这个点的高度（纵轴的y值）要比这里的横轴x轴还要大那么一点点。如果让a=2.001，则f(a)约为4.004。如果你在这儿画一个小三角形，你就会发现如果a往右移动0.001，那么f(a)将增大四倍，即增大0.004。在微积分中，我们把这个三角形斜边的斜率f(a)在点a=2处的导数等于4，或者写成微积分的形式，   。由此可知，函数f(a)=a^2，a取不同的值的时候，它的斜率是不同的，这和上个视频中的例子不一样。现在换个点来看，如果a=5，不再等于2，则a的平方等于25。这时如果再一次把a往右移一点点，只是移动非常小的一段距离，比如让a=5.001，而f(a)的值大约为25.010，这里我们只往右移动了0.001，f(a)却增大了10倍，即可以写作  。此时a的值为5，这里只是小小地移动了a，f(a)的值增大了10倍。有种直观的方法可以解释为什么一个点的斜率在不同位置会不同。如果你在曲线上的不同位置画一些小小的三角形，你就会发现，三角形的高和宽的比值在曲线不同的地方，它们是不同的。所以当a=2时，这里的斜率为4，而当a=5时，这里的斜率为10。如果你翻看微积分的课本，课本会告诉你这里f(a)等于a的平方，的值由课本上的公式可知函数f(a)=a^2的斜率应该等于2a 。这里不证明这个公式，但你可以打开微积分课本，找到上面的公式表达，它会告诉你f(a)=a^2的导数确实为2a。事实上这也和我们手工算的结果是一样的，当a=2时，函数的斜率为2乘以2等于4，当a=5时，函数的斜率为2乘以5等于10。如果你翻看微积分课本，你会看到这个公式，，这意味着任意给定一点a，如果你稍微将a增大0.001，那么你会看到f(a)将增大2a，即增大的值为该点在a处的斜率或导数乘以你向右移动的距离。现在有个小细则需要注意：之前使用了一些不精确的值，这里的值不应该是4.04，你知道这里应该还有额外的001，是因为我们把a向右移动了0.001。然后如果我们把a向右移动像这样一个非常非常小的值（0.0000….01），那么这个额外的项将可以被忽略，这样的话，你会发现f(a)增大的值刚好等于导数乘以你向右移动的距离，至于为什么不是刚好等于4.004，是因为导数就是根据这个无穷小值来定义的，而这里的0.001虽然比较小，但是它还是不足以小到可以被忽略，这就是为什么导数增大的值不是恰好等于公式算出来的，而是根据导数算出来的一个近似值。

出于总结本课的目的，我们再看看几个例子。之前你已经知道的是f(a)等于a的平方，按照微积分课本上的写法，这个函数的导数应该为2a。和之前的例子一样，如果a=2，那么f(a)等于4，把a向右移动一点，变为2.001，那么f(a)将增大一点，大于为4.004，所以f(a)增大了向右移动距离的四倍。事实上，当a=2时，导数的值为4。

来看看其他的例子，假设f(a)等于a的三次方f(a)=a^3，如果你翻看微积分课本上的导数公式表，你会发现这个函数的斜率，即这个函数的导数为3乘以a的平方，即3a^2，什么意思呢？同样地，举一个例子，我们再次令a等于2，a的三次方等于8。如果我们将a增大一点点变为2.001，你会发现f(a)的值大约为8.012，你会发现2.001的三次方和8.012很接近。事实上，当a=2时，导数值为3乘以2的平方，即3乘以4等于12。导数公式表明如果你将a向右移动很小的一段距离，那么f(a)将会增大向右移动距离的12倍。所以当a增大0.001时，f(a)增大了四倍，即0.012。

最后一个例子，假设f(a)是一个log函数，即，一个以e为底的对数函数，有些人可能会写成ln(a)。如果你去看微积分课本，那么log(a)的导数应该为。

所以我们可以解释如下：如果a取任意值，比如再一次取a=2，然后又把a向右移动0.001，那么f(a)将增大a分之1，即函数f(a)的导数。事实上，借助计算器，你会发现当a=2时，f(a)约为0.69315，如果你增加a到2.001，那么f(a)约为0.69365，所以f(a)增大了0.005。事实上，如果你查看导数公式，当a=2的时候，导数等于。导数公式表明，如果把a增大0.001，f(a)将只会增加0.001的二分之一即0.0005,这正是我们所得到的值。当a增大0.001时，从a等于2增大到非常接近的2.001，f(a)增大了这个的二分之一，增大了大约0.0005。如果你在这儿画个小三角形，你就会发现如果x轴增加了0.001，那么y轴上的函数log(a)将增大0.001的一半，即0.0005，所以是。当a=2时，是。这个1/2就是当a等于2时，这条线的斜率。

这些就是导数的知识了。在这个视频中，你只需要记住两点：第一点是,函数的导数就是函数的斜率，而函数的斜率在不同的点是不同的。在第一个例子中f(a)=3a时，这是一条直线，在任何点它的斜率都是相同的，都是3。但是对于函数，或者f(a)=log(a)，它们的斜率是变化的，它们的导数或者斜率在曲线上不同的点处是不同的。这是第一个你需要记住的，即导数就是斜率。第二点是，如果你想知道一个函数的导数，你可以参考微积分课本或者维基百科，然后你应该就能找到这些函数的导数公式。最后希望你对导数和斜率有了一个直观的理解，接下来看一个视频，将讲解流程图,以及如何使用它来计算更复杂函数的导数。