多元函数中的泰勒公式的表达

多元函数中最优化问题的目标函数往往是一个复杂的函数，简化问题的时候，通常表达为在某一点的泰勒展开的表达式。与一元函数类似，多元函数中的泰勒公式在应用问题上也具有着举足轻重的作用。
基本思想 不论是多元函数也好，还是一元函数也好，最基本的泰勒公式的展开式基本思想是用多项式函数逼近函数本身。

一元函数的泰勒公式

设函数$f(x)$在点$x_0$处的邻域内有$n+1$阶导数，那么就会有泰勒展开式
$$f(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+\frac{1}{2!}{f}^{\prime \prime }(x_0)(x-x_0{)}^2+\cdots +\frac{1}{n!}{f}^{(n)}(x_0)(x-x_0{)}^n+R_n$$

或者表示为
$$f(x)=\sum _{k=0}^n\frac{1}{n!}{f}^{(n)}(x_0)(x-x_0{)}^n+R_n$$

其中$R_n$被称为余项
$$R_n=\frac{1}{(n+1)!}{f}^{(n+1)}(\xi )(x-x_0{)}^{n+1},\xi \in (x,x_0)$$

一般地，拉格朗日余项中$\xi =x_0+\theta \Delta x,\Delta x=x-x_0,0<\theta <1$。

二元函数的泰勒公式

二元函数的泰勒公式是一元函数的推广。设$f(x,y)$在点$(x_0,y_0)$的邻域内含有$n+1$阶的可微函数，那么在$(x_0,y_0)$处的泰勒展开式表示为
$$f(x,y)=f(x_0,y_0)+\left(\Delta x\frac{\partial }{\partial x}+\Delta y\frac{\partial }{\partial y}\right)f(x_0,y_0)+\frac{1}{2!}{\left(\Delta x\frac{\partial }{\partial x}+\Delta y\frac{\partial }{\partial y}\right)}^{2}f(x_0,y_0)+\cdots +\frac{1}{n!}{\left(\Delta x\frac{\partial }{\partial x}+\Delta y\frac{\partial }{\partial y}\right)}^{n}f(x_0,y_0)+R_n$$

或者表示为和的形式

$$f(x,y)=\sum _{k=0}^n\frac{1}{k!}{\left(\Delta x\frac{\partial }{\partial x}+\Delta y\frac{\partial }{\partial y}\right)}^{k}f(x_0,y_0)+R_n$$

$R_n$为余项

$$R_n=\frac{1}{(n+1)!}{\left(\Delta x\frac{\partial }{\partial x}+\Delta y\frac{\partial }{\partial y}\right)}^{n+1}f(x+\theta \Delta x,y+\theta \Delta y),(0<\theta <1)$$

一般情况下，我们使用二元函数中的二阶泰勒公式比较多,表示为如下所示
$$f(x,y)=f(x_0,y_0)+{\left(\begin{array}{cc}{f}_x^{\prime }& f_y^{\prime }\end{array}\right)}_{X_0}\left(\begin{array}{c}\Delta x\\ \Delta y\end{array}\right)+\frac{1}{2}\left(\begin{array}{cc}\Delta x& \Delta y\end{array}\right){\left(\begin{array}{cc}{f}_{xx}^{\prime \prime }& f_{xy}^{\prime \prime }\\ f_{yx}^{\prime \prime }& f_{yy}^{\prime \prime }\end{array}\right)}_{X_0}\left(\begin{array}{c}\Delta x\\ \Delta y\end{array}\right)+R_2$$
其中$X_0=(x_0,y_0)$。

多元函数中的泰勒公式

很容易我们推出多元函数中的泰勒公式。设多元函数$f(x_1,x_2,\dots ,x_m)$在点$P(x_{10},x_{20},\dots ,x_{m0})$的邻域内$n+1$阶可微，则泰勒公式表示为
$$f(x_1,x_2,\dots ,x_m)=f(x_{10},x_{20},\dots ,x_{m0})+\left(\sum _{k=0}^m\Delta x_m\frac{\partial }{\partial x_m}\right)f(x_{10},x_{20,\dots ,x_{m0}})+\cdots +\frac{1}{n!}{\left(\sum _{k=0}^m\Delta x_m\frac{\partial }{\partial x_m}\right)}^{n}f(x_{10},x_{20},\dots ,x_{m0})+R_n$$

或者表示为

$$f(x_1,x_2,\dots ,x_m)=\sum _{k=0}^n\frac{1}{k!}{\left(\sum _{k=0}^m\Delta x_m\frac{\partial }{\partial x_m}\right)}^{k}f(x_{10},x_{20},\dots ,x_{m0})+R_n$$

余项$R_n$为
$$R_n=\frac{1}{(n+1)!}{\left(\sum _{k=0}^m\Delta x_m\frac{\partial }{\partial x_m}\right)}^{n+1}f(x_{10}+\theta \Delta x_{10},x_{20}+\theta \Delta x_{20},\dots ,x_{m0}+\theta \Delta x_{m0}),0<\theta <1$$

一般使用hessian矩阵表示二阶多元函数泰勒公式:
$$f(\text{x})=f({\text{x}}_0)+[\nabla f(\text{x}){]}^T(\text{x}-{\text{x}}_0)+\frac{1}{2!}(\text{x}-{\text{x}}_0{)}^{T}H({\text{x}}_0)(\text{x}-{\text{x}}_0)+o({\rho }^2)$$

其中
$$H({\text{x}}_0)=\left[\begin{array}{cccc}\frac{{\partial }^{2}f}{\partial x_1^2}& \frac{{\partial }^{2}f}{\partial x_1{x}_2}& \cdots & \frac{{\partial }^{2}f}{\partial x_1{x}_m}\\ \frac{{\partial }^{2}f}{\partial x_1{x}_2}& \frac{{\partial }^{2}f}{\partial x_2^2}& \cdots & \frac{{\partial }^{2}f}{\partial x_2{x}_m}\\ \cdots & \cdots & \cdots & \cdots \\ \frac{{\partial }^{2}f}{\partial x_1{x}_m}& \frac{{\partial }^{2}f}{\partial x_2{x}_m}& \cdots & \frac{{\partial }^{2}f}{\partial x_m^2}\end{array}\right]$$

在之后的文章中，笔者会使用牛顿法、拟牛顿法解决多元函数中的最优化问题，这里就会用到多元函数中的泰勒公式。