泰勒展开 — Taylor Expansion

泰勒展开是希望基于某区间一点$x_0$展开，用一组简单的幂函数$x^a$来近似一个复杂的函数$f(x)$在该区间的局部。公式如下：
$$f(x)=a_0+a_1(x-x_0)+a_2(x-x_0{)}^2+a_3(x-x_0{)}^3+...$$

实际效果如下图所示。蓝色的线条是$sin$函数，黄色线条是$sin$函数不同阶（即上式右侧保留的项数）在$x=0$处的泰勒展开，随着阶数升高（保留其泰勒展开的更多项），其泰勒级数在更广的区间上近似$sin$函数。

泰勒展开的应用场景例如：我们很难直接求得$sin(1)$的值，但我们可以通过$sin$的泰勒级数求得$sin(1)$的近似值，且展开项越多，精度越高。
$$\begin{gathered} sin(1)=0.8414709848078965 \\ taylor\_expansion\_of\_sin\_with\_order\_3(1)=0.8333333333333334 \\ taylor\_expansion\_of\_sin\_with\_order\_5(1)=0.8416666666666667 \\ taylor\_expansion\_of\_sin\_with\_order\_7(1)=0.841468253968254 \end{gathered}$$

现在我们来求得上式中各项的系数。为求$a_0$，令$x=x_0$：
$$f(x_0)=a_0+a_1(x_0-x_0)+a_2(x_0-x_0{)}^2+a_3(x_0-x_0{)}^3+...$$
因此，$a_0=f(x_0)$。为求$a_1$，我们先对原始左右求导：
$$\frac{d}{dx}f(x)=a_1+2a_2(x-x_0)+3a_3(x-x_0{)}^2+...$$
再令$x=x_0$：
$$\frac{d}{dx}f(x_0)=a_1+2a_2(x_0-x_0)+3a_3(x_0-x_0{)}^2+...$$
因此，$a_1=\frac{df}{dx}{|}_{x=x_0}$。为求$a_2$，我们先对原始左右求二阶导：
$$\frac{d^2}{d{x}^2}f(x)=2a_2+3a_3(x-x_0)+4\ast 3a_4(x-x_0{)}^2+...$$
再令$x=x_0$：
$$\frac{d^2}{d{x}^2}f(x_0)=2a_2+3a_3(x_0-x_0)+4\ast 3a_4(x_0-x_0{)}^2+...$$
因此，$a_2=\frac{1}{2}\frac{d^{2}f}{d{x}^2}{|}_{x=x_0}$。如此往复，我们得到$a_k$的计算通式：
$$a_k=\frac{1}{k!}\frac{d^{k}f}{d{x}^k}{|}_{x=x_0}$$
最后，我们得到函数$f(x)$在$x=x_0$处展开的泰勒级数：
$$f(x)=f(x_0)+f^{\prime }(x_0)\Delta x+\frac{1}{2!}{f}^{\prime \prime }(x_0)(\Delta x{)}^2+\frac{1}{3!}{f}^{\prime \prime \prime }(x_0)(\Delta x{)}^3+...$$
其中，$\Delta x=x-x_0$。

对于$f(x\pm h)$的泰勒展开，我们只需要将上式中的$x$替换为$x\pm h$，$x_0$替换为$x$：
$$f(x\pm h)=f(x)+f^{\prime }(x)(\pm h)+\frac{1}{2!}{f}^{\prime \prime }(x)(\pm h{)}^2+\frac{1}{3!}{f}^{\prime \prime \prime }(x)(\pm h{)}^3+...$$

二元函数$f(x,y)$的泰勒展开

对于$f(x,y)$在$(x_0,y_0)$处的泰勒展开为：
$$\begin{array}{rl}f(x,y)=& f(x_0,y_0)+f_x^{\prime }(x_0,y_0)(x-x_0)+f_y^{\prime }(x_0,y_0)(y-y_0)\\ & +\frac{1}{2!}{f}_x^{\prime \prime }(x_0,y_0)(x-x_0{)}^2+\frac{1}{2!}{f}_y^{\prime \prime }(x_0,y_0)(y-y_0{)}^2\\ & +\frac{1}{2!}{f}_{xy}^{\prime \prime }(x_0,y_0)(x-x_0)(y-y_0)+\frac{1}{2!}{f}_{yx}^{\prime \prime }(x_0,y_0)(x-x_0)(y-y_0)\\ & +...\end{array}$$

多元函数$f(x_1,x_2,...,x_n)$的泰勒展开

对于$f(x_1,x_2,...,x_n)$在$(x_{1,0},x_{2,0},...,x_{n,0})$处的泰勒展开为：
$$f(x_1,x_2,...,x_n)=a_0+\sum _{m=1}^{\infty }{[}_{{\sum }_j{k}_j=m}\sum a_{x_1,...,x_n;m}(x_1-x_{1,0}{)}^{k_1}\dots (x_n-x_{n,0}{)}^{k_n}]$$
系数$a$的计算通式为：
$$\begin{array}{rl}& a_0=f(x_{1,0},x_{2,0},...,x_{n,0})\\ & a_{x_1,...,x_n;m}=\frac{1}{m}\frac{{\partial }^{m}f}{{\partial }^{k_1}{x}_1\dots {\partial }^{k_n}{x}_n}{|}_{x_{1,0},x_{2,0},...,x_{n,0}}\end{array}$$
其中，$x_1,...,x_n;m$表示对 { x 1 , . . . , x n } \{x_1,...,x_n\} {x1​,...,xn​}进行$m$次有放回的排列组合。