泰勒展式推导及算子表示

一、一元函数的泰勒展开

  学习微分概念时已知，若 $f$ 在点 $x_0$ 处可导，则有
$$f(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+o(x-x_0)$$  式子可以这样理解，在点 $x_0$ 附近，用一次多项式 $f(x_0)+f^{\prime }(x_0)(x-x_0)$ 近似函数 $f(x)$ 时，其误差为 $(x-x_0)$ 的高阶无穷小量. 但在许多场合，这样的精度是不够的，因此需要更高次数的多项式来逼近，并要求误差为 $o((x-x_0{)}^n)$，其中 $n$ 为多项式的次数.

  为此，考察任意 $n$ 次多项式 $p_n(x)$，其可以表示为
$$p_n(x)=a_n(x-x_0{)}^n+a_{n-1}(x-x_0{)}^{n-1}+\cdots +a_1(x-x_0)+a_0$$两端取 $x_0$ 处的各阶导数，得
$$p_n(x_0)=a_0,p_n^{\prime }(x_0)=a_1,p_n^{\prime \prime }(x_0)=2!a_2,\cdots ,p_n^{(n)}(x_0)=n!a_n$$则$$a_0=p_n(x_0),a_1=p_n^{\prime }(x_0),a_2=\frac{p_n^{\prime \prime }(x_0)}{2!},\cdots ,a_n=\frac{p_n^{(n)}(x_0)}{n!}$$所以
$$\begin{array}{rl}{p}_n(x)& =\frac{p_n^{(n)}(x_0)}{n!}(x-x_0{)}^n+\frac{p_n^{(n-1)}(x_0)}{(n-1)!}(x-x_0{)}^{n-1}+\cdots +p_n^{\prime }(x_0)(x-x_0)+p(x_0)\\ & =p(x_0)+p_n^{\prime }(x_0)(x-x_0)+\cdots +\frac{p_n^{(n)}(x_0)}{n!}(x-x_0{)}^n\\ & =\sum _{k=0}^n\frac{p_n^{(k)}(x_0)}{k!}(x-x_0{)}^k\end{array}$$  对于一般的函数 $f$，设其在点 $x_0$ 存在直到 $n$ 阶的导数，构造 $n$ 次多项式
$$T_n(x)=\sum _{k=0}^n\frac{f^{(k)}(x_0)}{k!}(x-x_0{)}^k=f(x_0)+f^{\prime }(x_0)(x-x_0)+\cdots +\frac{f^{(n)}(x_0)}{n!}(x-x_0{)}^n$$容易验证
$$T_n^{(k)}(x_0)=f^{(k)}(x_0),k=0,1,2,\cdots ,n\text{\hspace{1em}(*)}$$  下面证明：用 $T_n(x)$ 逼近 $f(x)$ 时，其误差是 $(x-x_0{)}^n$ 的高阶无穷小量，即
$$f(x)-T_n(x)=o((x-x_0{)}^n)$$证明： 设
$$R_n(x)=f(x)-T_n(x),Q_n(x)=(x-x_0{)}^n$$要证
$$\underset{x\to x_0}{\lim }\frac{R_n(x)}{Q_n(x)}=0$$由式 $(\ast )$ 可知，
$$R_n(x_0)=R_n^{\prime }(x_0)=\cdots =R_n^{(n)}(x_0)=0$$并易知
$$Q_n(x_0)=Q_n^{\prime }(x_0)=\cdots =Q_n^{(n-1)}(x_0)=0,Q_n^{(n)}(x_0)=n!$$使用 $(n-1)$ 次洛必达法则(至于为什么不是 $n$ 次，留给读者思考)，得
$$\begin{array}{rl}\underset{x\to x_0}{\lim }\frac{R_n(x)}{Q_n(x)}& =\underset{x\to x_0}{\lim }\frac{R_n^{\prime }(x)}{Q_n^{\prime }(x)}=\cdots =\underset{x\to x_0}{\lim }\frac{R_n^{(n-1)}(x)}{Q_n^{(n-1)}(x)}\\ & =\underset{x\to x_0}{\lim }\frac{f^{(n-1)}(x)-(f^{(n-1)}(x_0)+f^{(n)}(x_0)(x-x_0))}{n(n-1)\cdots 2(x-x_0)}\\ & =\frac{1}{n!}\underset{x\to x_0}{\lim }[\frac{f^{(n-1)}(x)-f^{(n-1)}(x_0)}{x-x_0}-f^{(n)}(x_0)]\\ & =0\text{(根据导数定义)}\end{array}$$所以
$$f(x)-T_n(x)=o((x-x_0{)}^n)$$$$f(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+\cdots +\frac{f^{(n)}(x_0)}{n!}(x-x_0{)}^n+o((x-x_0{)}^n)$$  上式也被称为 带有 $\text{Peano}$ 型余项 的泰勒公式. 美中不足的是，只给出了余项的定性估计. 现在呢，我们想构造一个定量形式的余项，以便对误差进行具体计算或估计.

  作辅助函数
$$F(t)=f(x)-[f(t)+f^{\prime }(t)(x-t)+\frac{f^{\prime \prime }(t)}{2!}(x-t{)}^2+\cdots +\frac{f^{(n)}(t)}{n!}(x-t{)}^n]$$$$G(t)=(x-t{)}^{n+1}$$不妨设 $x_0<x$，则 $F(t)$ 与 $G(t)$ 在 $[x_0,x]$ 上连续，在 $(x_0,x)$ 上可导，且
$$\begin{array}{rl}{F}^{\prime }(t)=& -[f^{\prime }(t)+(f^{\prime \prime }(t)(x-t)-f^{\prime }(t))+(\frac{f^{\prime \prime \prime }(t)}{2!}(x-t{)}^2-f^{\prime \prime }(t)(x-t))+\cdots \\ & +(\frac{f^{(n+1)}(t)}{n!}(x-t{)}^n-\frac{f^{(n)}(t)}{(n-1)!}(x-t{)}^{n-1})]\\ =& (-1)[f^{\prime }(t)+\sum _{k=1}^n(\frac{f^{(k+1)}(t)}{k!}(x-t{)}^k-\frac{f^{(k)}(t)}{(k-1)!}(x-t{)}^{k-1}\left)\right]\\ =& (-1)[\sum _{k=0}^n\frac{f^{(k+1)}(t)}{k!}(x-t{)}^k-\sum _{k=0}^{n-1}\frac{f^{(k+1)}(t)}{k!}(x-t{)}^k]\\ =& -\frac{f^{(n+1)}(t)}{n!}(x-t{)}^n\end{array}$$$$G^{\prime }(t)=-(n+1)(x-t{)}^n$$因为 $F(x)=G(x)=0$，由柯西中值定理，得
$$\frac{F(x_0)}{G(x_0)}=\frac{F(x_0)-F(x)}{G(x_0)-G(x)}=\frac{F^{\prime }(\xi )}{G^{\prime }(\xi )}=\frac{f^{(n+1)}(\xi )}{(n+1)!}$$其中 $\xi \in (x_0,x)$，则
$$F(x_0)=\frac{f^{(n+1)}(\xi )}{(n+1)!}G(x_0)$$将 $F,G$ 表达式代入，得
$$f(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+\cdots +\frac{f^{(n)}(x_0)}{n!}(x-x_0{)}^n+\frac{f^{(n+1)}(\xi )}{(n+1)!}(x-x_0{)}^{n+1}$$所以
$$R_n(x)=f(x)-T_n(x)=\frac{f^{(n+1)}(\xi )}{(n+1)!}(x-x_0{)}^{n+1}$$称为 $\text{Lagrange}$ 型余项，当 $n=0$ 时，
$$f(x)-f(x_0)=f^{\prime }(\xi )(x-x_0)$$为 $\text{Lagrange}$ 中值公式.

  借用算法分析中的记号，余项 $R_n(x)$ 还可以表示为以下两种形式.
$$O((x-x_0{)}^{n+1}\left)\Theta \right((x-x_0{)}^{n+1})$$不过最为准确的表述还是 $\text{Lagrange}$ 型余项. 余项还有两种表示形式，分别是 积分型余项 和 柯西余项，在此不作介绍，感兴趣的读者可以自己了解下.

二、从一元到多元

  至于多元函数的泰勒展开，下以二元函数 $f(x,y)$ 为例，进行说明，想在点 $(x_0,y_0)$ 的某一邻域内进行泰勒展开. 设邻域内任意一点 $(x_0+h,y_0+k)$，先作辅助函数
$$\varphi (t)=f(x_0+th,y_0+tk)$$则
$$\varphi (0)=f(x_0,y_0),\varphi (1)=f(x_0+h,y_0+k)$$先考虑 $\varphi (t)$ 的 $n$ 阶导函数
$$\begin{array}{rl}{\varphi }^{\prime }(t)=& f_x(x_0+th,y_0+tk)h+f_y(x_0+th,y_0+tk)k\\ {\varphi }^{\prime \prime }(t)=& f_{xx}(x_0+th,y_0+tk)h^2+f_{xy}(x_0+th,y_0+tk)hk+\\ & f_{yx}(x_0+th,y_0+tk)kh+f_{yy}(x_0+th,y_0+tk)k^2\\ =& (h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{2}f(x_0+th,y_0+tk)\end{array}$$依次类推，或用数学归纳法，可以得到以下结论
$$\begin{array}{r}{\varphi }^{(n)}(t)=\sum _{p=0}^n{C}_n^p{h}^p{k}^{n-p}\frac{{\partial }^{n}f}{\partial x^p\partial y^{n-p}}{|}_{(x_0+th,y_0+tk)}=(h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{n}f(x_0+th,y_0+tk)\end{array}$$由一元函数的泰勒展式，将 $\varphi (t)$ 在点 $0$ 处泰勒展开
$$\begin{array}{rl}f(x_0+h,y_0+k)=& \varphi (1)=\varphi (0)+{\varphi }^{\prime }(0)+\cdots +\frac{{\varphi }^{(n)}(0)}{n!}+\frac{{\varphi }^{(n+1)}(\theta )}{(n+1)!}\\ =& f(x_0,y_0)+\sum _{p=1}^n\frac{1}{p!}(h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{p}f(x_0,y_0)\\ & +\frac{1}{(n+1)!}(h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{n+1}f(x_0+\theta h,y_0+\theta k)\\ =& f(x_0,y_0)+\sum _{p=1}^n\frac{1}{p!}(h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{p}f(x_0,y_0)+\Theta ({\rho }^{n+1})\\ =& f(x_0,y_0)+\sum _{p=1}^n\frac{1}{p!}(h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{p}f(x_0,y_0)+O({\rho }^{n+1})\\ =& f(x_0,y_0)+\sum _{p=1}^n\frac{1}{p!}(h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y}{)}^{p}f(x_0,y_0)+o({\rho }^n)\end{array}$$其中 $\rho =\sqrt{h^2+k^2}$.

  对于 $n$ 元函数的泰勒展开，可利用相同的思想进行推导，在此就不赘述了.

  学数学嘛，重要的是学其中的思想——"道"也，而非“术”也.

揭秘：不使用 $n$ 次洛必达法则原因：

  因为 $f^{(n)}(x_0)$ 存在，所以在 $x_0$ 的邻域 $U(x_0)$ 上 $f$ 存在 $n-1$ 阶导函数 $f^{(n-1)}(x)$，但不一定存在 $n$ 阶导函数(肯定会有人这样问，要是存在了怎么办？那就多展开一项啊，hhh)，所以只能使用 $(n-1)$ 次洛必达法则.

三、拓展升华

  对一元函数，我们得到了以下结论：
$$\begin{array}{rl}f(x)& =f(x_0)+f^{\prime }(x_0)(x-x_0)+\cdots +\frac{f^{(n)}(x_0)}{n!}(x-x_0{)}^n+\cdots \\ & =f(x_0)+f^{\prime }(x_0)\Delta x+\cdots +\frac{f^{(n)}(x_0)}{n!}(\Delta x{)}^n+\cdots \end{array}$$

特别地，对于指数函数 $e^x$，有
$$\exp (x)=1+x+\frac{x^2}{2!}+\cdots +\frac{x^n}{n!}+\cdots$$

  对二元函数，我们有
$$f(x_0+\Delta x,y_0+\Delta y)=f(x_0,y_0)+\sum _{p=1}^n\frac{1}{p!}(\Delta x\frac{\partial }{\partial x}+\Delta y\frac{\partial }{\partial y}{)}^{p}f(x_0,y_0)+\cdots$$
下面对这两种形式进行泛化，引入恒等算子 $I$，定义如下
$$If=f$$

引入求导算子 $D$，定义如下
$$Df=\frac{df}{dx}$$

则
$$\begin{array}{rl}f(x)& =f(x_0)+f^{\prime }(x_0)\Delta x+\cdots +\frac{f^{(n)}(x_0)}{n!}(\Delta x{)}^n+\cdots \\ & =(f+\Delta x{f}^{\prime }+\cdots +(\Delta x{)}^n\frac{f^{(n)}}{n!}+\cdots ){|}_{x=x_0}\\ & =((I+\Delta xD+\cdots +\frac{(\Delta xD{)}^n}{n!}+\cdots )f){|}_{x=x_0}\\ & =(\exp (\Delta xD)f){|}_{x=x_0}\end{array}$$

  同理，对二元函数，有
$$f(x,y)=(\exp (\Delta x{D}_x+\Delta y{D}_y)f){|}_{(x,y)=(x_0,y_0)}$$

其中 $D_{x}f=\frac{\partial f}{\partial x},D_{y}f=\frac{\partial f}{\partial y}$.

  对 $n$ 元函数，有
$$f(x_1,x_2,\cdots ,x_n)=\exp (\Delta x_1{D}_{x_1}+\Delta x_2{D}_{x_2}+\cdots +\Delta x_n{D}_{x_n})f(x_{10},x_{20},\cdots ,x_{n0})$$

其中
$$D_{x_i}f=\frac{\partial f}{\partial x_i},i=1,2,\cdots ,n$$

令 $x=(x_1,x_2,\cdots ,x_n{)}^T,x_0=(x_{10},x_{20},\cdots ,x_{n0}{)}^T,$

$\Delta x=x-x_0=(\Delta x_1,\Delta x_2,\cdots ,\Delta x_n{)}^T,\nabla =(D_{x_1},D_{x_2},\cdots ,D_{x_n}{)}^T,$

则
$$\Delta x_1{D}_{x_1}+\Delta x_2{D}_{x_2}+\cdots +\Delta x_n{D}_{x_n}=(\Delta x{)}^T\nabla$$
$$f(x)=\left(\exp \right((\Delta x{)}^T\nabla )f){|}_{x=x_0}$$

参考文献：
1.华东师范大学数学系.数学分析(上下册)[M].第四版.北京:高等教育出版社,2010.
2.戴嘉尊.微分方程数值解法[M].第二版.南京:东南大学出版社,2012.