“你能保证我能回来吗?”“不能。但是,如果你能回来的话,你就再也不一样了“
——《霍比特人:意外之旅》
在结束了一段旅途之后,我们重新回到了微积分的世界中。但你我都知道,经历过线性代数世界的我们,有些事已经发生了改变。
在将微积分从一元推广向多元以前,先来重新复习一下导数与微分的概念。
导数与可微
我们知道,对于一元函数,其在一点
如果我们切换一下视角,实际上可以将这个式子看作:
换句话说,
如果我们将
这个简单而熟悉的倍乘关系,一下子就能让你联想到我们在《线性代数-0.线性》一文中提到的线性性质之一——齐次性,即
而,微分的定义,函数增量(差值)的线性主部,即将这个函数中的近似符号改为等号:
可以看到,当我们说函数在一点处可微,实际上就是将函数在一点处附近看作是线性的。不过由于对于一元函数,其定义域与值域一般来说是实数域到实数域的映射,即标量到标量的映射,故一般只能体现出线性的齐次性。
但是,当我们从一元推广到二元后,定义域与值域的情况就有了新的变化。
对于二元函数
其中,函数差值的部分没有问题,即
但这在有了线性代数的基础后,就全然不成问题。
在一元函数中,
而二元函数中,
而在这个区域内,由两点所构成的“差值”元素,就不仅仅有了距离的度量概念,同时也因在区域中所处位置的不同具有了方向概念——因此由一元到二元的推广,实际上就是函数由标量到向量的推广。
故,二元函数的导数定义,即可写为:
我们知道,竖线符号
而,若多元函数的自变量实际可以被看作向量的话,则它的函数值其实自然也同样的被推广至向量。因此,二元函数的导数即可被完整的写作:
严格的来说,这里应该使用双竖线来表示,但是由于我们尚未正式的进入实分析阶段,因此暂时不引入范数的概念,而是先以距离或向量模长作一个直观的理解。
这样的计算方式成功解决了向量无法与向量相除的问题,不过,这样获得的导数,亦是一个标量,它保留了函数差值与自变量差值这比这一概念。却也很明显的,抛弃了向量空间的概念。
因此,如果我们将这一定义式按照前面的方式进行改写:
你看,在这里我们同样先用一个标记来记
由此就非常自然的推出了多元函数的线性主部,即它的微分。
而将一个向量,变换为另一个向量——这时,你应该明白,为什么在进入多元函数微分学之前,我想先引入线性代数的基础学习——导数
在线性代数中,我们非常熟悉这样的表达:
即向量
因此,多元函数的线性主部,即多元函数的微分,在经过导数矩阵
其中,
到了这一步,我们就已经能够透过线性的本质,即其可分解性,来触摸到微分的本质。
在线性代数中我们说对于一个
而对于多元函数一点处的微分,实际就是将这一点处的附近看作是线性,从而得以将这一点处函数的变化等效的分解为各个坐标轴方向的变化。
由此,多元函数在某个变量方向上的变化率如
从这个推导过程你可以看出,全微分的意义绝不仅仅是简单的偏微分的代数和,实际上它所映射的是微分这一思想的线性性质。
二次型的回响
在学习线性代数二次型阶段,曾经保留了一个问题没有讨论,即二次型的正定。所谓正定,即保证二次型函数的值始终大于零。
对于一个一元二次函数,判断函数值是否恒大于零,我们曾经做过一些讨论。即只需要满足:
- 函数的极值点为函数的最小值点;
- 最小值点的函数值大于零。
就能够保证一个一元二次函数的值始终大于零;用函数图像来表达,即一元二次函数的开口向上且位于
那么,对于二元二次函数,也即一个二元的二次型:
是否同样可以利用这两点的进行判断,即我们保证这个二次型抛物面的开口朝上且始终位于
在一元函数中,极值点处的导数为0,即
而在二元函数中,为了满足极值点处的导数为0,则需要它的两个偏导数均为0,即:
偏微分的符号为了区别于全微分,将微分符号的柄略微弯曲成了,求取偏导数的过程也就是将该偏导数对应变量以外的其它变量视为常数而后求导。
因此我们同时求取该二次型函数的两个偏导数,即有:
实际上就获得了一个方程组:
解得其极值点应满足:
有了极值点后,我们需要来进一步的判别它是函数局部的最大值还是最小值。
在一元函数中,我们利用二阶导数
那么在二元函数中,同样的利用二阶导数,来做判别,我们将二次型函数记作
因此,分别求解4个二阶偏导数,并分别标记为:
故,二阶偏导矩阵即为:
可以看到,极值点的未知数系数
对于极值点方程
显然的,当
这时,极值点将不会是唯一的一个点,满足极值点条件的将是直线
当
若
故唯一极值点
而当
细心的你其实应该注意到,二次型的二阶偏导矩阵
通过上面的推导,你可以明白了:
- 为什么二次型正定的必要条件有二次型矩阵的行列式大于零;
- 为什么可以使用判别式
来判别二元函数的极值点,因为它本质上就是偏导数矩阵的行列式;为什么它只适用于二元函数,正是因为只有2阶矩阵行列式才满足对角线法则;
- 二次型中,在满足了
(即)的条件下,为什么可以利用方向的二阶偏导数与零的关系来判断极值点是极大值还是极小值;因为实际上在这个条件下,方向的二阶导是同号的,故它们与零的关系直接决定了函数图像开口的方向。
在这一节中,之所以利用二次型作为一个例子,来讨论多元函数微分,是为了使我们明白,线性代数与微积分之间不应该是两个割裂的领域,而是存在着深刻而紧密的联系。这一点,在往后的学习中需要我们牢牢的把握。
在本节完成了从线性代数到多元微分的过渡后,下一节我们将完全回到微积分的角度,来进一步的讨论多元函数求导的原则。