微积分是数学领域,它构成了机器学习算法的组成部分。在使用神经网络及其优化时,经常会遇到微积分的概念。在有关用于机器学习的微积分的系列的第一部分中,我们从关于函数,梯度和微分的一些基本讨论开始。我们看到了导数实际上与每个点上的函数梯度之间的关系。我们还构建了演算“工具箱”,以使我们的差异化之旅更加轻松。但是所有这些讨论都是围绕一个变量展开的。在机器学习微积分的第2部分中,我们将介绍多元或多元系统的概念。
多元系统:
顾名思义,我们将对微分和梯度的学习应用于多变量系统。多变量术语通常可以互换使用。根据投入和产出的数量略有区别,但是我们不会进行讨论,而是由统计人员进行。转到微积分的机器学习多元系统第2部分意味着我们现在可以使用微积分实现高维空间,这种情况在机器学习中很常见。
在开始对多变量进行微分之前,我们先来看一下变量一词。
在上一篇有关用于机器学习的微积分的文章中,我们正在研究汽车的速度与时间关系图。
![7beb9213e22117638f3a235b4670af8d.png](https://i-blog.csdnimg.cn/blog_migrate/c09d433241d3a562131a3789de681ffa.jpeg)
我们经常将变量定义为其他变量的函数。例如,在汽车速度时间示例中,我们可以说速度是时间的函数,因为汽车在每种时间实例中都有一个速度。相反,我们不能将时间定义为速度的函数,因为汽车可以在许多时间点以相同的给定速度行驶。在这种情况下,我们可以将速度定义为因变量,将时间定义为自变量。
通常在微积分中,我们将因变量与自变量区分开。但是,在某些情况下,区分变量和常量似乎并不简单。由于它可以随着所描述问题的上下文而变化。
让我们继续我们关于汽车速度与时间的示例,以了解它可能如何产生。考虑以下等式。
![184835ca6a13f8805a95ee1e74ca97b3.png](https://i-blog.csdnimg.cn/blog_migrate/c595be83028ef5d1805ca84b9d3fd0cf.jpeg)
在这里,由汽车发动机产生的力与汽车的质量m,加速度a,空气动力学驱动力d和速度v有关。在这里,汽车的加速度和速度可以通过增加或减小作用力来改变。但是质量和驱动力是汽车设计的不变特征。
现在,可以将力视为一个独立变量,因为它是独立施加的。加速度和速度是因变量,因为它们取决于所施加的力。质量和驱动力是常数。