微分,泰勒公式及其在图像处理中的应用

前段时间，看图像处理和机器学习的时候，遇到了高数中微分与积分的内容，就复习了一下相关内容，下面就是这几天学习的一个笔记，因为我不是学数学的，数学基础也不好，相关概念理解可能不够准确，甚至有错误，欢迎大家批评指正。

微分

---

起源

微分概念是在解决直与曲的矛盾中产生的，在微小局部是否可以使用用直线去近似替代曲线？(这个思想就是后来微积分中著名的”以直代曲”思想)。
如果在这个微小的局部，函数的增量可以用线性函数的数值来近似，就可以得出在微小局部可以使用用直线去近似替代曲线。下面看看是否可以？

由起源到定义

函数$f(x)$在$x_0$的某个邻域内有定义，若存在常数A,对于自变量的增量$\Delta x \rightarrow0$,等式$\Delta y= A \Delta x+o( \Delta x)$成立，则我们就可以认为在微小局部，可以使用一个线性函数去近似增量。那么存在这样的常数A吗？
假设存在，我们知道，如果函数在点$x_0$处可导，则

$$f'(x_0)=\lim _{\Delta x \rightarrow 0}{f(x_0+\Delta x)-f(x_0)\over {\Delta x}}=\lim_{\Delta x \rightarrow 0}{{A\Delta x+o(\Delta x)} \over {\Delta x}}=A$$ 即 $A=f'(x_0)$,存在这样的常数！这个结论反推也是成立的.则定义 $\Delta x$的线性函数 $A\Delta x$(注意，线性函数是一次的)为函数在点 $x_0$处的微分，表示为 $$dy=f'(x_0)\Delta x=f'(x_0)dx$$ ,所以函数 $f(x)在点x_0可微的充要条件是在x_0处可导$,因为 $\Delta y -dy = o(\Delta x)$,他们之间存在一个高阶无穷小，所以只能使用微分 近似表示增量。

这样我们就得到了微分的定义：

函数$f(x)$在$x_0$的某个邻域内有定义，若存在常数A,对于自变量的增量$\Delta x \rightarrow0$,等式$\Delta y= A \Delta x+o( \Delta x)$成立,则称$f(x)在点x_0$处是可微的,定义$\Delta x$的线性函数$A\Delta x$函数为在点$x_0$处的微分，表示为

$$dy=A\Delta x=Adx$$ ,其中 $A=f'(x_0)$

几何意义

$\Delta x \rightarrow 0$,微分近似表示点$x_0$处的增量

见下图

微分思想

在微小局部使用用直线去近似替代曲线，即”以直代曲”思想

微分在图像处理中的应用：差分近似求导(微分)

由上面的分析可知

$$\Delta y= f'(x) \Delta x+o( \Delta x)$$
当 $\Delta x$非常小的时候，则有: $$\Delta y \approx f'(x)$$ 即我们可以认为增量和导数近似相等，这个近似在很多地方都非常有用，下面我们就来看看在图像中的应用

图像处理的边缘检测中，我们都知道梯度的大小和方向的公式如下：

$$M(x,y)=\sqrt {{g_x^2}+{g_y^2}}$$
$$\alpha =\arctan {g_y \over g_x}$$
那么现在问题来了：每个像素点处的导数 ${g_x},g_y$怎么求？由于在图像中离散像素点相距比较近，这个时候，我们就可以用我们上面的公式了，即用差分近似代替导数,Prewitt,Sobel算子就是采用了这个原理,下面以Sobel为例：

我们看X方向的模板，如果不考虑滤波，我们将会得出：

$$g_x=z_6-z_4$$ $$g_y=z_8-z_2$$
但是Sobel算子加入了滤波功能，以X方向为例,采用均值滤波，滑动窗口大小为3：
$$z_4={z_1+{2z_4+z_7} \over 4}$$
$$z_6={{z_3+2z_6+z_9} \over 4}$$

所以此时就变为了：

$$g_x={{z_3+2z_6+z_9} \over 4}-{z_1+{2z_4+z_7} \over 4}$$ ,但是我们平时在用Sobel算子计算的时候，并没有除以4， 所以使用Sobel算子求出来的梯度图的亮度会变大，道理就在这个地方

由微分到泰勒公式

---

微分中提到：$\Delta y -dy = o(\Delta x)$,所以有

$$f(x)\approx f(x_0)+f'(x_0)(x-x_0) ---(公式1)$$
他们之间是有一个误差的，这个误差就是 $o(\Delta x)=o(x-x_0)$,这个误差有点大，现在我们想能不能提高精度？下面我们就需要解决两个问题:

• 提高精度
• 误差估计

提高精度

对于公式1关于x的一次多项式，记$p_1(x)=f(x_0)+f'(x_0)(x-x_0)$,我们发现有两个关系：

$$p_1(x_0)=f(x_0),p'_1(x_0)=f'(x_0)---(公式2)$$ 为了提高精度，现在我们要用一个高次多项式去近似，假设这个多项式为 $$p_n(x)=a_0+a_1(x-x_0)+\cdots a_n(x-x_0)^n---(公式3)$$
由公式2，我们可以推到出，多项式如果要近似为曲线，需要满足以下的条件：
$$p_n(x_0)=f(x_0),p'_n(x_0)=f'(x_0),p''_n(x_0)=f''(x_0) \cdots ,p^{(n)}_n(x_0)=f^{(n)}(x_0)---(公式4)$$

对公式3求导数，最后得到

$$a_0=f(x_0),a_1=f'(x_0),\cdots,a_n={f^{n}(x_0) \over n!}$$

所以

$$p_n(x)=f(x_0)+f'(x_0)(x-x_0)+{f''(x_0) \over 2!}(x-x_0)^2+ \cdots+{f^{(n)} \over n!}(x-x_0)^n$$
下面我们来估计误差

计算误差

误差：

$$R_n(x)=f(x)-p_n(x)$$
公式4我们可以得出 $$R_n(x_0)=R'_n(x_0)= \cdots =R^{(n)}_n(x_n)=0---(公式5)$$ ,令 $h(x)=R_n(x),l(x)=(x-x_0)^{n+1}$,则 $${h(x) \over l(x)}={R_n(x) \over {(x-x_0)^{n+1}}}$$ 至于为什么会构造这个式子，先别急，通过后面的推导就知道了。由公式5，我们可以知道 $${R_n(x) \over {(x-x_0)^{n+1}}}={{h(x)-h(x_0)} \over {l(x)-l(x_0)}}$$
运用柯西中值定理，得
$${R_n(x) \over {(x-x_0)^{n+1}}}={{h(x)-h(x_0)} \over {l(x)-l(x_0)}}={{R'_n(\zeta _1)} \over {(n+1)(\zeta _1-x_0)^n}},(\zeta _1 \in (x_0,x))$$
该式子还可以继续用柯西中值定理，最后的计算结果为：
$${R_n(x) \over {(x-x_0)^{n+1}}}={{h(x)-h(x_0)} \over {l(x)-l(x_0)}}={{R^{(n+1)}_n(\zeta )} \over {(n+1)!}}, (\zeta \in (x_0,x))$$ 现在我们就很清楚为什么要构造那样的式子了，是为了方便使用柯西中值定理。又 $$R^{(n+1)}_n(x)=f^{(n+1)}(x)-p^{(n+1)}_n(x)$$ ,而 $p^{(n+1)}_n(x)=0$（因为他是n次多项式，所以n+1次导数为0），所以 $R^{(n+1)}_n( \zeta )=f^{(n+1)}_n( \zeta )$，所以，最后我们得到 $$R_n(x)={{f^{(n+1)}( \zeta ) \over (n+1)!}}(x-x_0)^{n+1},(\zeta \in (x_0,x))$$

这就是泰勒公式中的拉格朗日余项。有的时候，我们不需要余项的精确表达，这个时候可以写成

$$R_n(x)=o((x-x_0)^n)$$ 这个就是皮亚诺余项

皮亚诺余项和拉格朗日余项在实际运用中的区别

• 拉格朗日余项:函数在$x_0$处有n阶导数,且在$(x_0,x)内有n+1阶导数$
• 皮亚诺余项只：函数在$x_0$ 处有n阶导数

由泰勒公式到拉格朗日中值定理

---

当泰勒公式中$n=0$,则

$$f(x)=f(x_0)+f'( \zeta )(x-x_0),( \zeta \in (x_0,x))$$ 这就是拉格朗日中值定理,我们可以看到拉格朗日中值定理就是泰勒公式的一个特例。

由泰勒公式到麦克劳林公式

---

在泰勒公式中，如果取$x_0=0,\zeta =\theta x,(\theta \in(0,1))$
则有

$$f(x)=f(0)+f'(0)x+{f''(0) \over 2!}x^2+ \cdots +{f^{(n)}(0) \over n!}x^n+{f^{(n+1)}(\theta x) \over (n+1)!}x^{n+1}$$ 这就是麦克劳林公式, 实际应用中，麦克劳林公式用的更多，因为是关于$x$的多项式，在实际应用中用的更多.

到这里，我们可以看出，泰勒公式可以推到出很多其他公式和定理，后面你会发现，泰勒公式的意义还不至于此，所以泰勒公式是高等数学中一个非常重要的公式。

常用基本初等函数的麦克劳林公式

---

基本初等函数

$$e^x,ln(1+x),sinx,cosx,(1+x)^a$$ 的麦克劳林公式，我们还是非常有必要掌握的，最好是能够非常熟练的背下来。这对于以后的学习是非常有帮助的。

泰勒公式的应用

泰勒公式最广泛的应用

• 近似计算

• 求极限

  下面分别举个例子，例题我就懒得用LaTex排版了，例题都是我从课件上找来的，我直接截个图放在上面，大家就将就看一下，主要看看泰勒公式的应用

近似计算

求极限

其实求极限的方法：等价无穷小都可以使用泰勒公式推导而来，泰勒公式是万能的！

泰勒公式的思想及哲学意义

下面我们来说说泰勒公式最重要的东西，就是泰勒公式的思想。

泰勒公式中，$f(x_0),f'(x_0),\cdots ,f^{n}(x_0)$,n阶导数信息表示的就是$x_0$处附近的信息,泰勒公式说明了，我们只要知道$x_0$处的信息，就可以表示整个函数了.
函数上任意一点的临域都包含着函数的全部信息！

所以，核心思想就是：
用函数某个点$x_0$的局部信息(就是n>=0阶导数)描述函数$f(x)$
常用的就是0处的信息

我们的人生是解析函数吗？如果是的话，我们可以在最短最短时间内我们所经历的一切，外推到整个人生。所以说，如果人生是解析函数的话，那就太棒了。我们只要活一点点，我们就可以用一点点的生涯去幻想无穷无尽的生命到底是长什么样子。
有一个我很敬佩的数学家，他说过一句话，“死并不可怕，死只是我所遇到的最后一个函数”。意思就是说，其实他认为人生并不是解析函数，他在那个时候已经认识到了，人生是充满着断点，跳跃，以及不连续点，人生是一个非常非常算是 正规 的函数。因为事实上，Weierstrass已经证明：处处连续但处处不可微分的函数才是函数的常态。

结束语

现在越来越发现，数学这个领域，越来越迷人，简单的数学公式背后蕴含着深刻的哲理和思想。

参考文献

北方民族大学叶志萍老师讲课视频，讲解泰勒公式非常好

http://www.56.com/u12/v_Nzk1MDExMzc.html#st=1138&fromoutpvid=Nzk1MDExMzc&
http://www.56.com/u28/v_Nzk1MDIyMDk.html#st=0&fromoutpvid=Nzk1MDIyMDk&

泰勒公式与人生
http://m.blog.csdn.net/blog/Zyearn/7484160