数学知识-微积分

学习高数的时间有点久了，很多概念都生疏了，所以花了一天时间重新翻了一遍高等数学，就写一篇文档总结一下微积分中的关键点和关键概念，帮助以后工作更快速的进步。我看的教材还是同济版的，同济的高等数学写的要比线性代数好得多。

一、 函数

函数是初等数学中的概念，在高等数学中同样适用，这是微积分讨论的对象。有输入，也有对应的输出，满足这样的功能的都叫映射，或者函数，只不过函数更侧重于数这个变量。编程中有参数，有 return，都叫函数，而函数的本来意思就是功能，实现一定的功能。函数是描述黑箱系统的工具，这在信号与系统，随机过程中尤为突出，同样的，一个矩阵也是一个函数。

数列是离散函数，指数对数函数，多项式函数，三角函数是初等函数。而实际上，根据欧拉公式和泰勒展开，这些初等函数其实是一回事。

函数连续性是微积分的基础，如果没有连续性，比如 狄利克雷函数，则无法计算微积分。我感觉理解函数连续性和可微积分的关系的最漂亮的函数是阻尼震荡函数，函数分数线上方是三角正弦函数，下方是二次多项式函数。尽管有断点，但是仍然保持了连续性，可微积分。

函数的一致连续性，从定义上来讲，不允许函数在定义域上的斜率无限大。多项式函数，指数函数都是斜率逼近无限的。至于一致连续有什么工程意义，我认为任何工程都必须保持一致连续，我们实际上根本不可能出现无限大，这是解决工程问题的前提，比如功率放大器，尽管理论上可以达到无限大，但是实际上不可能，冲激函数使用短时方波拟合，此时的斜率也一定是存在的，不可能是理论上的无限大，这个短时方波也是连续的；而理论上，冲激函数就是不连续的。

二、 极限

形象地理解极限非常容易，但是极限的严谨定义有些拗口。极限是微积分的基础，在微积分的讨论中，广泛应用到了忽略高阶无穷小量，无限划分有限长度、面积等，这些约等于、近似、逼近的根基在于存在极限，如果没有极限这个根基，微积分构建不起来，时长忽略无穷小量也会造成大量的不严谨和错误。总之，极限是保证了微积分从近似到精准的桥梁，也是根基。

在极限的各种性质中，我认为最重要的是极限的定义，夹逼定理，柯西函数收敛准则。根基极限的定义，也就可以得出无穷小量的比较这个概念，在程序算法的复杂度分析当中，这个使用的非常频繁。

三、 导数

导数的英文是 derivitive，意思就是根源，源头，这样理解起来，导数的意思就是变化的源头，函数本身刻画了变化的过程，而导数就是刻画变化本身。我一直认为，翻译的水平直接影响了中国人理解数学概念。导数的定义是根据极限得来的，首先定义中给出了一个定义域段，对应的有一个直线斜率。当定义域时间段越来越小时，斜率趋近于一个稳定的值，这个值就是导数。在讨论导数的时候，一定是指某一个点，而非某一个时间段。可以说，对于某一个点来说，并不存在斜率这个东西，只有存在时间段的时候才有。所以，只能是满足存在极限，导数才存在。导数存在的条件就是被讨论的点的附近有定义域，且有规定的极限。

可导必连续，连续不一定可导，导数的几何解释就是切线。但是我们可以在-1 到 1的 开区间上定义这样一个函数，当定义域为有理数时，值域是 sin，当定义域为无理数时，值域是 tan。显然不连续。但是在定义域取 0 的时候，导数所定义的那个极限是存在的……，谁能帮我把我说的这个函数的导数推翻了？整个函数，只有在 0 处才连续。

一阶导数刻画斜率，速率，正负号区分单调性，极值点，即速度的方法转换点，二阶导数刻画突度，加速度，拐点，即加速度的方向转换点。在机器学习和最优化里，有太多的学习最终稳定在了极值点里，没有到达最值点。

另外一个，在极坐标系下，导数的意义就变成了曲率。将极坐标变换为笛卡尔坐标，曲率意味着曲线的弯曲程度，弯曲的越厉害，说明二阶导数作用非常大。放在物理里的加速度上讲，就是力的作用大。

四、 微分

微分是在导数基础上的一个操作步骤，其基本思想是在无限短的区间段上，用导数所代表的斜率去构成的三角形去近似真正的曲线。三角形用到了直线，而一阶导数就是刻画直线，在此条件下，近似成立；反之，如果是刻画二阶微分，则用直线不可行，还必须考虑到二阶小量。尽管是近似，但是当取值到极限的时候，就是真实值。由于微分从导数而来，所以微分也有各种复合运算求导法则。可微的本质含义就是可以去使用直线近似，所以，可微的条件就是满足近似，与真实值的差值是一个高阶无穷小量。

拉格朗日中值定理，也叫有限增量定理。从几何直观上，不难理解，微分是用直线进行近似，而拉格朗日中值定理指出了在曲线的每一处变化的导数上，进行平均，一定得到直线对应的斜率值，这个值就是中值。其本质就是算数平均。在工程上，有大量的问题最后的求解就是解一个非常庞大的方程组。这时就需要根据中值定理首先将方程组或方程的解分隔，或做切线、割线，缩小解的范围，得到一个解的近似值。

洛必达法则也有一套几何形象化理解：分数线上下的两个函数各有一个导数，当从附近邻域趋近极限点时，划分一个极小的区间段，由于可以使用直线近似曲线，该段的斜率值一定正比于当前的函数取值，所以，洛必达法则成立。

五、 泰勒展开

泰勒展开式给出了在函数的给定定义域值的附近，如何根据导数和微分的这种近似和极限取值，而且使用了高阶导数来确定取值，来得出近似的多项式。同样地，泰勒也可以从近似得到极限，最终泰勒展开式是一个恒等式。不过，泰勒展开一定强调在邻域中，微分的近似一定是基于导数存在，极限存在这一基础的。如果极限不存在，那么泰勒展开无效。

根据泰勒展开，所有初等函数都是一回事，我们可以用多项式幂函数替换为三角函数，指数函数，对数函数，总而言之，这些都是函数之间的线性变换。由于我们理论上可以认为幂函数的幂有无限个，但实际上无法取到。所以泰勒展开的意义仍然是近似，近似的差值叫做高阶的皮亚诺余项。

六、 不定积分

不定积分完全是求导的逆运算，所谓的不定，是指求导逆运算得到的结果数量不唯一。而且，根据不定积分和求导的运算性质来看，这两个过程都是线性变换。满足线性变换的所有性质。教课书中介绍了各种各样的积分换元法， 
所谓的换元就是换坐标基，线性变换本质不变性保证了换元法可以行得通，在微积分中，换元的意思就是复合函数，combination，也就是矩阵乘法，在这里，复合函数和矩阵乘法形成了统一。

七、 定积分

定积分的几何意义在于给定函数，积分所要计算的函数是确定的，确定性来源于坐标系的确定。定积分的几何意义就是函数与x轴夹成的面积，且这个面积具有方向性，方向性针对x轴和y轴都成立，这里的面积是个抽象概念，而非惯常理解的占地面积。

定积分的中值定理本质上也是算数平均，几何上讲就是用一个等效的方形去替代函数与x轴夹成的面积。

八、 空间解析几何

在线性代数中定义了向量，向量是线性空间的所有元素。而在书中介绍的空间解析几何，又把向量这一概念具象为一组数字。

两个向量的数量积的本质我认为已经脱离的乘法的范畴，它指的是两个向量在同一个方向上最大的距离的乘积，这一点和投影然后相乘是一致的，投影就是找到保证最大值的同一方向的过程。数量积本身和方向并无关系，但是只有在确定的方向上，投影，然后数量积才能达到最大。当两个向量垂直时，数量积为0，就是说不论在哪个方向上，两个向量都找不到共同点，这个共同点由向量夹角的余弦刻画。

向量积属于电磁学应用最典型的地方。两个向量的向量积，其方向指向与两方向垂直的方向。也就是说，我们讨论的线性空间，除了向量之间的变换外，向量和向量之间也有各种各样的关系。

在整个书中讨论空间解析几何的过程中，不论是确定一条直线也好，确定一个平面也好，始终是静态的，也就是说，我们始终都没有使用矩阵这种东西，而一直在利用方程和方程组。当讨论旋转和球面、柱面的时候，我们用到了线性代数，这时，选取的坐标基变了，当然，秩不变，空间的秩始终都是3。旋转和球、柱等曲面在笛卡尔系下，一定是二次的，在变换坐标系后，算式简洁，只有一次。坐标系之间的变换一定可以用一个矩阵来表示。

在所有的二次曲线或曲面当中，圆是核心。

九、 从一元到多元

在微积分中，函数从一元变为多元之后，从极限、导数、微分、到积分等等，整个概念都进行了扩充。这种扩充从几何的角度讲，是从直线到平面的扩充，x和y都变成了自变量，z成了输出变量。在这种情况下，任何二元初等函数的图像都是某种优美的曲面，似乎x和y之间存在着什么联系。但事实上，x和y之间不存在任何联系。由于介入到了空间和平面的概念，我们很容易联想到向量方向这一概念，它可以有效地帮助我们理解多元函数和多元微积分，但是x和y仅仅是多元，并没有方向性。

偏微分容易使人联系到方向的概念，在x方向上的微分为x偏微分，在y方向上的微分为y偏微分。经过两个方向的偏微分先后顺序可以不变。 
全微分的概念正是因偏微分而来，其道理同样是近似。在几何上，仍然用三角来刻画拟合的程度。偏导数存在是全微分成立的必要条件，而偏导数连续则是充分条件。此时全微分必然由x和y方向上的微小量dx和dy刻画，缺一不可。同样的复合函数求导也是一个嵌套过程，全导数的本质是一元导数，所谓的二元成了中间变量，只是代换的一个步骤。二元函数不存在全导数，只有偏导数。

另外，隐函数仅仅是普通函数的方便写法，类似于贵宾犬的梳毛方式决定了它有时候也叫泰迪。

我之前说过在多元中，变量之间并无任何联系，而方向导数的含义则是x量和y量的不同组合，从几何上可以理解为方向。在讨论偏微分的时候，我们可以假想x方向和y方向是完全不相关的两个方向。但是当组合的量不一样的时候，方向出现了，同样的在方向导数中，方向的定义仅仅是x和y轴上的余弦值组合，除此之外再无含义。从二元扩展到多元，已经不能再用形象化的方向来定义了，高维空间中，方向仅仅是余弦值组合。

梯度指一个向量，梯度与方向向量的数量积就是方向导数。方向导数刻画了在某一方向上函数的变化率，梯度的本质含义就是变化率最快的方向。如果梯度按照梯度方向求方向导数的话，其值一定是最大的。也就是说，在某一点的各个方向上，只有沿着梯度方向，变化最剧烈。梯度的模就是最大的方向导数。

在多元函数中，极值同样由导数确定，只不过，此时的导数为两个偏导数。当极值存在时，两个偏导数一定等于0，反之则不一定。根据驻点的定义，极值点一定是驻点，而驻点不一定就是极值点。驻点的意思是就是斜率停驻，为0，但是并非为0就一定是极值点，这在一元三次函数中就有体现。需要注意的是二元函数极值点判定充分条件定理。

最小二乘：用经验数据求得经验函数来拟合真实函数的手段，实际上就是计算方差最小。

二重积分和三重积分很好理解，可以看到积分的意义就是按照在坐标轴上函数的变换进行累积。相应的，曲线积分和曲面积分则不是按照坐标轴来，它自行规定了一个曲线或曲面。尽管比较困难，我们仍然可以看到，曲线或曲面仍然是在坐标系下的，所以可以转换到方便处理的坐标系下来求解。对于曲面和曲线积分的 格林公式的本质有两个二元函数，这两个函数毫无关联，但是两个函数在一起可以组成一个场，一个二元函数或或多元函数组成一个数量场，而一组这样的函数就是一个向量场，所以，格林公式实际上在描述一个场，放在物理里面这个叫力场、电场、磁场。在场存在的前提下，格林公式的本质就是向量场的基本性质，通过曲面的通量等于其边界曲线上散度的积分。

在任意向量场中，通量是单位时间通过某个曲面的量；散度是某个点的通量强度；环流量是单位时间内环绕某个曲线的量，旋度是环流量的强度。如果不搞流体力学、物理学、电磁场之类的东西，格林公式就是不好理解。

在场的概念基础上，又提出了保守场，也就是场中的功只与位置有关，而与路径无关，重力场就是这样的，所做的功仅仅与移动了多少高度有关。

与格林公式相呼应，高斯公式和斯托克斯公式应运而生。高斯公式中将向量场扩展到了空间，其意义和格林公式类似。总体来说，我花了不少的文字在写向量场有关的积分，事实上我工作当中接触的并不多，主要还是想把概念搞清楚。像散度、旋度这些概念，首先定义就有些复杂，我认为一定是物理上先遇到这些问题，然后微积分上给予了解决方法，否则，从曲线积分来看，数学实在没有必要自己搞出来一大堆这样复杂的东西。

十、 无穷级数

级数的概念与数列和极限非常靠近，针对数列的收敛完全适用于级数。 
在一般性的无穷级数中，幂级数有特定的性质，它规定了一个变量x，根据其幂的无限次增长，存在收敛半径和收敛域、收敛值。很明显，这和泰勒展开是一个东西，只不过又起了个名字。相对于其它初等函数，幂级数的求解最为方便，这也是为何把其它函数改为幂函数，而非别的函数的原因。相反，在信号和电磁中，三角函数就成了公认的方便处理的基本函数了，此时的展开就不是泰勒级数了，而是傅里叶级数。在信号当为离散函数时，傅里叶级数有效；连续函数时，就用到了积分和极限思想，用傅里叶变换来解决；但是，即便为离散时，傅里叶级数也用的较少，转而用Z变换。

十一、复数

复数是我感觉给人冲击最强烈的部分。读书时候我学的最好的一门数学课是复变函数。

复数是实数域的扩充，在实数域，所有的数都是标量，但是负数中的负号是一个比较特例的存在，作为标量，仍然存在一个负号，表示相反，这个负号在数学中的意义异常广泛，在导数中，负号表示函数单调递减，线性代数中，特征值负号表示特征向量向相反方向拉伸或缩减。也就是说，尽管实数是标量，但是负号的存在指示了相反的方向。反方向也就是180度。

复数就是在此基础上的扩充，它引入了单位虚数i，一个i表示90度，两个i相乘表示180度，正好等于一个负号。也就是说，复数的意义在于将标量的数彻底转化为带有方向的数。从坐标系的角度讲，实数域中，所有的数都是在一个固定好的笛卡尔系中，整个空间平面都是平的，直的。但是引入复数之后，所谓的线性从直观上就消失了。比如复函数 y =（3+4i）x 这样的所谓一元一次线性函数，所得到的结果一定不是直线。由于输入是复数，输出是复数，所以不方便画一个函数图像，但肯定的是，即便输入是直线，但是输出之后，图像一定发生了弯折。此外，复数有两种表示法，一种是实数加虚数，另外一种就是范数乘以e的角度虚数次方。而后者才是复数的真正本身，前者只是坐标系的一种刻画方法。故，复数的本质就是伸缩与旋转。

由于复数是从实数域扩充而来的，所以e，i，等的定义是与实数保持一致的，在实数指数运算中，有e的x次方乘e的y次方等于e的x+y次方，根据扩充前后的一致性，这条在复数域也同样适用，且完美展示了复数的本质含义，这不再是一个随着次数越来越大，值变得无限大的指数函数，而成了一个绕着复平面上单位圆不断旋转的函数。指数项就是角度，系数项就是伸缩倍数。所以，复数的加法就是在原数基础上再旋转多少度，再增加多少长度。复数的乘法就是按一定比例旋转，而非按确定的度数旋转。所以，复数的加法不改变平面，而乘法则是将整个复平面压缩或者扩张，看起来好像复平面是一块非常有弹性的布。

欧拉公式有两种表示法，一种是指数和三角函数的表示，单位指数的虚数次方等于复平面上的三角函数值。欧拉公式是将复数的两种表示法画等号的桥梁。

另一种确定性的欧拉函数，直接将角度值标为pi，则取值为-1，这个公式把e，pi，-1，0，i这几个数学中非常关键的东西联系在了一起，从几何出发，它还包含了圆和三角，这也是几何中最重要的图形。