漫步数学分析番外六(上)

$\textbf{定理1}$ 令$A$是$R^n$中的开集并且假设$f:A\to R^m$在$x_0$处可微，那么$Df(x_0)$是由$f$唯一确定。

$\textbf{证明：}$令$L_1,L_2$是满足定义1的两个线性映射，我们必须说明$L_1=L_2$。固定$e\in R^n,\Vert e\Vert=1$，对$\lambda\in R$令$x=x_0+\lambda e$，那么注意

$$|\lambda|=\Vert x-x_0\Vert\quad \Vert L_1\cdot e-L_2\cdot e=\frac{\Vert L_1\cdot\lambda e-L_2\cdot\lambda e\Vert}{|\lambda|}$$

因为$A$是开集，所以$\lambda$充分小时$x\in A$，根据三角不等式

$$\begin{align*} \Vert L_1\cdot e-L_2\cdot e\Vert &=\frac{\Vert L_1(x-x_0)-L_2(x-x_0)\Vert}{\Vert x-x_0\Vert}\\ &\leq\frac{\Vert f(x)-f(x_0)-L_1(x-x_0)\Vert}{\Vert x-x_0\Vert}\\ &+\frac{\Vert f(x)-f(x_0)-L_2(x-x_0)\Vert}{\Vert x-x_0\Vert} \end{align*}$$

当$\lambda\to0$时，上式的两项均$\to 0$，所以$L_1\cdot e=L_2\cdot e$。 除了$\Vert e\Vert=1$时$e$的选择是任意的，但是对任意$y\in R^n,y/\Vert y\Vert=e$长度为1，利用线性可知，如果$L_1(e)=L_2(e)$，那么$L_1(y)=L_2(y)$。$||$

$\textbf{定理2}$ 假设$A\subset R^n$是一个开集并且$f:A\to R^m$是可微的，那么偏微分$\partial f_j/\partial x_i$存在且线性映射$Df(x)$对于$R^n,R^m$ 中标准基的矩阵为

$$\begin{pmatrix} \frac{\partial f_1}{\partial x_1}&\frac{\partial f_1}{\partial x_2}&\cdots&\frac{\partial f_1}{\partial x_n}\\ \frac{\partial f_2}{\partial x_1}&\frac{\partial f_2}{\partial x_2}&\cdots&\frac{\partial f_2}{\partial x_n}\\ \cdot&\cdot&&\cdot\\ \cdot&\cdot&&\cdot\\ \cdot&\cdot&&\cdot\\ \frac{\partial f_m}{\partial x_1}&\frac{\partial f_m}{\partial x_2}&\cdots&\frac{\partial f_m}{\partial x_n} \end{pmatrix}$$

其中每个偏导数都是在$x=(x_1,\ldots,x_n)$处计算出来的。

$\textbf{证明：}$根据线性映射矩阵的定义，$Df(x)$的第$ji$ 个矩阵元素是向量$Df(x)\cdot e_i$的第$j$个元素，也就是$Df(x)$作用到第$i$个标准基$e_i$上，我们称为$a_{ji}$。 接下来令$y=x+he_i$，其中$h\in R$，注意

$$\begin{align*} &\frac{\Vert f(y)-f(x)-Df(x)\cdot(y-x)}{\Vert y-x\Vert}\\ &=\frac{\Vert f(x_1,\ldots,x_i+h,\ldots,x_n)-f(x_1,\ldots,x_n)-hDf(x)\cdot e_i\Vert}{|h|} \end{align*}$$

因为当$h\to 0$时上面的式子$\to 0$，所以分子的第$j$个元素同样如此，这就意味着当$h\to 0$，

$$\frac{|f_j(x_1,\ldots,x_i+h,\ldots,x_n)-f_j(x_1,\ldots,x_n)-ha_{ji}|}{|h|}\to 0$$

因此我们有

$$a_{ji}=\lim_{h\to 0}\frac{[f_j(x_1,\ldots,x_i+h,x_n)-f_j(x_1,\ldots,x_n)]}{h}=\frac{\partial f_j}{\partial x_i}\quad ||$$

$\textbf{定理3}$ 假设$A\subset R^n$是开集且$f:A\to R^m$在$A$上可微，那么$f$是连续的。事实上，对于每个$x_0\in A$存在一个常数$M>0,\delta_0>0$ 使得$\Vert x-x_0\Vert<\delta_0$意味着$\Vert f(x)-f(x_0)\Vert\leq M\Vert x-x_0\Vert$。(这就是利普希茨(Lipschitz)性质)

为了证明这个定理，我们回忆一下，如果$L:R^n\to R^m$是一个线性变化，那么存在一个常数$M_0$使得对所有的$x\in R^n$不等式$\Vert Lx\Vert\leq M_0\Vert x\Vert$，因此我们取$L=Df(x_0)$。

$\textbf{证明：}$为了证明连续性，只要证明利普希茨性质即可，对给定的$\varepsilon>0$，我们可以选择$\delta=\min(\delta_0,\varepsilon/M)$。为此我们令定义1 中的$\varepsilon=1$，那么存在一个$\delta_0$使得$\Vert x-x_0\Vert<\delta_0$意味着

$$\Vert f(x)-f(x_0)-Df(x_0)(x-x_0)\Vert\leq\Vert x-x_0\Vert$$

变换一下得

$$\Vert f(x)-f(x_0)\Vert\leq\Vert Df(x_0)(x-x_0)\Vert+\Vert x-x_0\Vert$$

(这里我们使用了三角不等式$\Vert y\Vert-\Vert z\Vert\leq\Vert y-z\Vert$，这要对$y=(y-z)+z$应用通常的三角不等式即可得出该结果)。令$M=M_0+1$并利用事实$\Vert Df(x_0)(x-x_0)\Vert\leq M_0\Vert x-x_0\Vert$ 得出结论。$||$

$\textbf{定理4}$ 令$A\subset R^n$是一个开集，$f:A\subset R^n\to R^m$，假设$f=(f_1,\ldots,f_m)$。如果每个偏导$\partial f_j/\partial x_j$存在且在$A$上连续，那么$f$在$A$上可微。

$\textbf{证明：}$如果$Df(x)$存在，那么它的矩阵表示就是定理2 中的雅克比矩阵，从而我们需要说明当$x\in A$固定，对于任意的$\varepsilon>0$，存在$\delta>0$使得$\Vert y-x\Vert<\delta,y\in A$意味着

$$\Vert f(y)-f(x)-Df(x)(y-x)\Vert<\varepsilon\Vert y-x\Vert$$

为此，只要证明$f$中每个元素满足即可，因此我们假设$m=1$。

我们可以写成$f(y)-f(x)=f(y_1,\ldots,y_n)-f(x_1,y_2,\ldots,y_n)+f(x_1,y_2,\ldots,y_n)-f(x_1,x_2,y_3,\ldots,y_n)+f(x_1,x_2,y_3,\ldots,y_n)-f(x_1,x_2,x_3,y_4,\ldots,y_n)+\cdots+f(x_1,\ldots,x_{n-1},y_n)-f(x_1,\ldots,x_n)$，接下来我们利用均值定理，在$x_1,y_1$($y_2,\ldots,y_n$ 固定)之间存在$u_1$使得$f(y_1,\ldots,y_n)-f(x_1,y_2,\ldots,y_n)=\partial f/\partial x_1(u_1,y_2,\ldots,y_n)(y_1-x_1)$，对于其他项我们可以写出同样的表达式从而得到

$$\begin{align*} f(y)-f(x) &=\left(\frac{\partial f}{\partial x_1}(u_1,y_2,\ldots,y_n)\right)(y_1-x_1)+\left(\frac{\partial f}{\partial x_2}(x_1,u_2,\ldots,y_n)\right)(y_2-x_2)\\ &+\cdots+\left(\frac{\partial f}{\partial x_1}(x_1,x_2,\ldots,x_{n-1},u_n)\right)(y_n-x_n) \end{align*}$$

那么因为$Df(x)(y-x)=\Sigma_{i=1}^n\frac{\partial f}{\partial x_i}(x_1,\ldots,x_n)(y_i-x_i)$，所以

$$\begin{align*} \Vert f(y)-f(x)-Df(x)(y-x)\Vert &\leq\left\{\left|\frac{\partial f}{\partial x_1}(u_1,y_2,\ldots,y_n)-\frac{\partial f}{\partial x_1}(x_1,\ldots,x_n)\right|+\cdots\right.\\ &\left.+\left|\frac{\partial f}{\partial x_n}(x_1,\ldots,x_{n-1},u_n)-\frac{\partial f}{\partial x_n}(x_1,\ldots,x_n)\right|\right\}\Vert y-x\Vert \end{align*}$$

其中利用了三角不等于以及事实$|y_i-x_i|\leq\Vert y-x\Vert$。但是$\partial f/\partial x_i$是连续的并且$u_i$位于$y_i,x_i$之间，所以存在$\delta>0$使得大括号中的项在$\Vert y-x\Vert<\delta$时小于$\varepsilon$，这就证明了断言。$||$

$\textbf{定理5}$ 令$f:A\to R^m$在开集$A\subset R^n$上是可微的，$g:B\to R^p$在开集$B\subset R^m$上是可微的，假设$f(A)\subset B$，那么复合函数(composite)$g\circ f$ 在$A$上是可微的且$D(g\circ f)(x_0)=Dg(f(x_0))\circ Df(x_0)$。

$\textbf{证明：}$为了说明$D(g\circ f)(x_0)\cdot y=Dg(f(x_0))\cdot(Df(x_0)\cdot y)$，我们想说明

$$\lim_{x\to x_0}\frac{\Vert g\circ f(x)-g\circ f(x_0)-Dg(f(x_0))\cdot(Df(x_0)(x-x_0))\Vert}{\Vert x-x_0\Vert}=0$$

为此估计一下分子：

$$\begin{align*} \Vert g\circ &f(x)-g\circ f(x_0)-Dg(f(x_0))\cdot(Df(x_0)(x-x_0))\Vert\\ &=\Vert g(f(x))-g(f(x_0))-Dg(f(x_0))(f(x)-f(x_0))\\ &+Dg(f(x_0))(f(x)-f(x_0)-Df(x_0)(x-x_0))\Vert\\ &\leq\Vert g(f(x))-g(f(x_0))-Dg(f(x_0))(f(x)-f(x_0))\Vert\\ &+\Vert Dg(f(x_0))(f(x)-f(x_0)-Df(x_0)(x-x_0))\Vert \end{align*}$$

因为$f$是可微的，所以根据定理3存在$\delta_0,M>0$ 使得$\Vert x-x_0\Vert<\delta_0$ 时$\Vert f(x)-f(x_0)\Vert\leq M$。接下来给定$\varepsilon>0$，根据导数的定义，存在$\delta_1>0$使得$\Vert y-f(x_0)\Vert<\delta_1$意味着

$$\Vert g(y)-g(f(x_0))-Dg(f(x_0))(y-f(x_0))\Vert<\left(\frac{\varepsilon}{2M}\right)\Vert y-f(x_0)\Vert$$

从而$\Vert x-x_0\Vert<\delta_2=\min\{\delta_0,\delta_1\}$意味着

$$\frac{\Vert g(f(x))-g(f(x_0))-Dg(f(x_0))(f(x)-f(x_0))\Vert}{\Vert x-x_0\Vert}<\frac{\varepsilon}{2}$$

因为$Dg(f(x_0))$是一个线性映射，所以我们知道存在一个常数$\tilde{M}$使得对所有的$y\in R^m,\Vert Dg(f(x_0))(y)\leq\tilde{M}\cdot\Vert y\Vert$，其中可以假设$\tilde{M}\neq 0$。接下里根据导数的定义存在$\delta_3>0$使得$\Vert x-x_0\Vert<\delta_3$意味着

$$\frac{\Vert f(x)-f(x_0)-Df(x_0)(x-x_0)\Vert}{\Vert x-x_0\Vert}<\frac{\varepsilon}{2\tilde{M}}$$

那么$\Vert x-x_0\Vert<\delta_3$意味着

$$\begin{align*} \frac{\Vert Dg(f(x_0))(f(x)-f(x_0)-Df(x_0)(x-x_0))\Vert}{\Vert x-x_0\Vert}\\ \leq\frac{\tilde{M}\cdot\Vert f(x)-f(x_0)-Df(x_0)(x-x_0)\Vert}{\Vert x-x_0\Vert}<\frac{\varepsilon}{2} \end{align*}$$
令 $\delta=\min\{\delta_2,\delta_3\}$，那么 $\Vert x-x_0\Vert<\delta$意味着
$$\begin{align*} &\frac{\Vert g\circ f(x)-g\circ f(x_0)-Dg(f(x_0))\cdot Df(x_0)(x-x_0)\Vert}{\Vert x-x_0\Vert}\\ &\leq\frac{\Vert g(f(x))-g(f(x_0))-Dg(f(x_0))(f(x)-f(x_0))\Vert}{\Vert x-x_0\Vert}\\ &+\frac{\Vert Dg(f(x_0))(f(x)-f(x_0)-Df(x_0)(x-x_0))\Vert}{\Vert x-x_0\Vert}<\frac{\varepsilon}{2}+\frac{\varepsilon}{2}=\varepsilon \end{align*}$$

证毕。$||$

$\textbf{定理6}$ 令$A\subset R^n$是开集，$f:A\to R^m,g:A\to R$是可微函数，那么$gf$是可微的并且对于$x\in A,D(gf)(x):R^n\to R^m$为$D(gf)(x)\cdot e=g(x)(Df(x)\cdot e)+(Dg(x)\cdot e)f(x)$，对所有的$e\in R^n$均如此。

$\textbf{证明：}$给定$\varepsilon>0,x_0\in A$，选择$\delta>0$使得$\Vert x-x_0\Vert<\delta$意味着

1. $|g(x)|\leq|g(x_0)|+1=M$;
2. $\Vert f(x)-f(x_0)-Df(x_0)(x-x_0)\Vert\leq\frac{\varepsilon}{3M}\Vert x-x_0\Vert$;
3. $\Vert g(x)-g(x_0)-Dg(x_0)(x-x_0)\Vert\leq\frac{\varepsilon}{3\Vert f(x_0)\Vert}\Vert x-x_0\Vert$;
4. $\Vert g(x)-g(x_0)\Vert\leq\frac{\varepsilon}{3M}$

其中$\Vert Df(x_0)y\Vert\leq M\Vert y\Vert$(如果$f(x_0)\neq=0,Df(x_0)\neq$，那么只需要$\textrm{(iii),(iv)}$即可)

那么对于$\Vert x-x_0\Vert<\delta$，利用三角不等式得

$$\begin{align*} \Vert g(x)f(x)-g(x_0)f(x_0)-&g(x_0)Df(x_0)(x-x_0)-[Dg(x_0)(x-x_0)]f(x_0)\Vert\\ &\leq\Vert g(x)f(x)-g(x)f(x_0)-g(x)Df(x_0)(x-x_0)\Vert\\ &+\Vert g(x)Df(x_0)(x-x_0)-g(x_0)Df(x_0)(x-x_0)\Vert\\ &+\Vert g(x)f(x_0)-g(x_0)f(x_0)-[Dg(x_0)(x-x_0)]\Vert\\ &\leq M\cdot\frac{\varepsilon\Vert x-x_0\Vert}{3M}+\frac{\varepsilon}{3M}M\Vert x-x_0\Vert+\frac{\varepsilon\Vert x-x_0\Vert}{3\Vert f(x_0)\Vert}\cdot\Vert f(x_0)\Vert\\ &=\varepsilon\Vert x-x_0\Vert.\quad|| \end{align*}$$

$\textbf{定理7}$
$\textrm{(i)}$假设$f:A\subset R^n\to R$在开集$A$上可微，对于使得$x,y$ 之间的线段位于$A$中的任意$x,y\in A$，存在点$c$位于那条线段上使得

$$f(y)-f(x)=Df(c)(y-x)$$

$\textrm{(ii)}$假设$f:A\subset R^n\to R^m$在开集$A$上可微，假设连接$x,y$的线段位于$A$中并且$f=(f_1,\ldots,f_m)$，那么在那条线段上存在点$c_1,\ldots,c_m$使得

$$f_i(y)-f_i(x)=Df_i(c_i)(y-x),\quad i=1,\ldots,m$$

$\textbf{证明：}$$\textrm{(i)}$考虑函数$h:[0,1]\to R$，定义为$h(t)=f((1-t)x+ty)$，函数$h$在$(0,1)$上对$t$可微，那么根据均值定理，存在$t_0\in(0,1)$使得$h(1)-h(0)=h^\prime(t_0)(1-0)$，现在$h(1)=f(y),h(0)=f(x)$。利用链式法则求微分可得$h^\prime(t_0)=Df((1-t_0)x+t_0y)(y-x)$，其中$(1-t)x+ty$对$t$的导数是$y-x$，从而我们可以取$c=(1-t_0)x+t_0y$。

$\textrm{(ii)}$对$f$的每个元素分别应用$\textrm{(i)}$ 即可。$||$

$\textbf{定理8}$ 令$f:A\subset R^n\to R$在开集$A$上二阶可导，那么$D^2f(x):R^n\times R^n\to R$对于标准基的矩阵为

$$\begin{pmatrix} \frac{\partial^2f}{\partial x_1\partial x_1}&\cdots&\frac{\partial^2f}{\partial x_1\partial x_n}\\ \cdot&&\cdot\\ \cdot&&\cdot\\ \cdot&&\cdot\\ \frac{\partial^2f}{\partial x_n\partial x_1}&\cdots&\frac{\partial^2f}{\partial x_n\partial x_n} \end{pmatrix}$$

其中每个偏微分都是在点$x=(x_1,\ldots,x_n)$处进行计算。

$\textbf{证明：}$$Df:A\to R^n$的矩阵表示由行向量$(\partial f/\partial x_1,\ldots,\partial f/\partial x_n)$给出，那么根据定理2，$D^2f:A\to R^{n^2}$为

$$\begin{pmatrix} \frac{\partial^2f}{\partial x_1\partial x_1}&\frac{\partial^2f}{\partial x_1\partial x_2}&\cdots&\frac{\partial^2f}{\partial x_1\partial x_n}\\ \cdot&&&\cdot\\ \cdot&&&\cdot\\ \cdot&&&\cdot\\ \frac{\partial^2f}{\partial x_n\partial x_1}&\frac{\partial^2f}{\partial x_n\partial x_2}&\cdots&\frac{\partial^2f}{\partial x_n\partial x_n} \end{pmatrix}$$

证毕。$||$