机器学习数学基础1：微积分

基于[公开课] 微积分拾级(一) (單維彰)

泰勒展开式

先了解什么是泰勒展开式。函数有两种，一种多项式函数，比如$f(x)=x^2+x+1$，一种非多项式函数，比如$f(x)=e^x,f(x)=ln(1+x),f(x)=sin(x)$等，两种函数的区别是，多项式函数代入数，就能算出精确的值，但是非多项式函数难以算出精确值。
在此情况下，一个自然的思路是把非多项式函数转换为多项式函数，或者说，用多项式函数来逼近非多项式函数。
泰勒公式就能把非多项式函数展开为多项式函数，原始的公式如下：

等号左边是原函数，右边是以多项式形式展开的结果。一般我们不用使用右侧全部的项，可以取右侧的前几项来逼近原始函数，不过右侧随着项数的增加，逼近的误差越来越小。
其中$x_0$，表明右侧是以$x_0$为参考点的泰勒开展形式。比如下面以0为参考点，分别取$e^x$的泰勒展开式的前两项和前三项，可以看到项数越多，逼近的误差越小。只取常数项和一次项的时候，得到的图像就是原函数图像在0点的切线。

所以，一个函数在 a 处的切线方程式，就是泰勒展开式的前两项：$y=f^{\prime }(a)(x-a)+f(a)$

微分

微分就是求$f(x)$的导函数。
比如求f(x)在2出的导数：
1.对f(x)微分，求得导函数。
2.将2代入f’(x)得到f’(2)
就是f(x)在2处的斜率。

我的理解是，微分就是把原函数看作某种总量，然后求导函数，导函数就是原函数关于x的变化率。

微分的运算性质

1.线性性质：$x^3+x^2+x+1$微分，就是各项分别微分
2.乘法律：f(x)*g(x)微分，就是f’(x)*g(x)+f(x)*g’(x)
3.连锁律(chain rule)：f(g(x))微分，就是f’(g(x))*g’(x)
4.除法律：就是乘法律和连锁律的应用

导数的应用

（1）求函数f(x)图像在x=a处的切线方程式。把f(x)进行泰勒展开，并升幂排列，然后取常数项和一次项就得到了切线方程。
（2）一次估计。$f(x)\approx c_0+c_1(x-a)=f^{\prime }(a)(x-a)+f(a)$ 也就是取前两项来近似地求值。
实际上，泰勒展开式就可以用微分求出各项的系数。

微分表示的是变化率.
第一个例子：吹气球，如果每分钟吹出的气体体积恒定，那么球的直径变化肯定是越来越慢的，这个变化率可以通过微分求出来，也就是$\frac{dr}{dt}$.

第二个例子：求利润在某天的变化率。
已知：利润为P，日销售量为x， $$P=500x-x^2/4$$并且知道每天会多10个，也就是$$\frac{dx}{dt}=10$$当销售量为500每天的时候，求利润的变化率，也就是求$\frac{dP}{dt}$
那么就可以这样求：$$\frac{dP}{dt}=\frac{dP}{dx}\frac{dx}{dt}$$

三次多项式函数的图形

微分，除了求极值以外，还可以描绘三次多项式函数的图形，

反曲点

函数图形弯曲的点，不是图形的顶点，而是图形的切线位置从图形以上变到下或者从下变到上的的点，三次多项式必有反曲点。

莱布尼兹符号

导数的写法，等号左侧是牛顿使用的写法，右侧是莱布尼兹符号，$d$是differential，是很小的变化量的意思。$\frac{dy}{dx}$y对x的瞬间变化率，也就是y的变化是x变化的倍数。
$f^{\prime }(x)=\frac{dy}{dx}$
或者，$\frac{d}{dx}f(x)$，叫做 f(x) 对 x 微分。
莱布尼兹符号的好处就是可以变换形式，变成：$dy=f^{\prime }(x)dx$，然后就可以进行估计等运算。

积分

积分是微分的相反过程，也就是还原 $dy$，使用积分符号$\int$，比如一个函数式：
$$y=x^2+x+1$$进行微分，$$\frac{dy}{dx}=2x+1$$ d y = ( 2 x + 1