(MIT6.006) lecture12 数值-II

最新推荐文章于 2022-11-21 19:49:16 发布

luixiao1220

最新推荐文章于 2022-11-21 19:49:16 发布

阅读量188

点赞数

分类专栏： MIT6.006

本文链接：https://blog.csdn.net/luixiao1220/article/details/106787088

版权

MIT6.006 专栏收录该内容

5 篇文章 0 订阅

订阅专栏

UTF8gbsn

本讲的内容也比较简单, 实际上自始至终就在讲 $\sqrt{a}$ ,计算复杂度的问题.
那么这个计算复杂度怎么计算呢?回顾上一周的内容可知.

$x_{n+1}=x_n-\frac{f(x_n)}{f^{'}(x_n)}$ 其中 $f(x)=x^2-a$ .
我们要想计算它, 那么最终的推导结构为 $x_{n+1}= \frac{x_n+a/x_n}{2}$

这个地方,我们可以发现有一个除法在这里.所以,
这个除法的复杂度要先考虑清除. 然后才可以谈 $\sqrt{a}$ 的计算复杂度.

牛顿法的误差分析

假设 $X_n=\sqrt{a}(1+\epsilon_n)$ , 那么. $\begin{aligned} X_{n+1} &=\frac{X_{n}+a / X_{n}}{2} \\ &=\frac{\sqrt{a}\left(1+\epsilon_{n}\right)+\frac{a}{\sqrt{a}\left(1+\epsilon_{n}\right)}}{2} \\ &=\sqrt{(a)} \frac{\left(\left(1+\epsilon_{n}\right)+\frac{1}{\left(1+\epsilon_{n}\right)}\right)}{2} \\ &=\sqrt{(a)}\left(\frac{2+2 \epsilon_{n}+\epsilon_{n}^{2}}{2\left(1+\epsilon_{n}\right)}\right) \\ &=\sqrt{(a)}\left(1+\frac{\epsilon_{n}^{2}}{2\left(1+\epsilon_{n}\right)}\right) \end{aligned}$

最后可得,

$\epsilon_{n+1}=\frac{\epsilon_{n}^{2}}{2\left(1+\epsilon_{n}\right)}$

这个关系,告诉我们无法是按照平方收敛的. 其速度会非常快.

乘法的复杂度

$d$ , 为两个整数的位数.

Naive Divide and Conquer method: $Θ(d^2)$ time
Karatsuba
$\Theta\left(d^{\log _{2} 3}\right)=\Theta\left(d^{1.584 \ldots}\right)$
Toom-Cook generalizes Karatsuba (break into $\geqslant 2$ parts )
$3)+\Theta(d)=\Theta\left(d^{\log _{3} 5}\right)=\Theta\left(d^{1.465 \ldots}\right)$
Schönhage-Strassen - almost linear! $\Theta(dlgdlglgd)$ using FFT.
All of these are in gmpy package.
Furer (2007)
$\Theta\left(n \log n 2^{O\left(\log ^{*} n\right)}\right)$
2019 年有一篇文章也介绍到整数惩罚. 这篇文章叫做, Integer
multiplication in time $O (n l o g n)$

High Precision Divis

如何计算 $a / b$ , 我们首先先到去计算 $1 / b$ . 而 $1 / b$ 可以等于 $R / b$ ,
这个R是一个 $2^n$ ,这样计算除了 $R / b$ ,
及很容易靠位移计算出 $1 / b$ 进而再次使用乘法计算出 $a / b$ .

牛顿法 $R / b$

$\begin{aligned} f(x) &=\frac{1}{x}-\frac{b}{R} \quad\left(\text { zero at } x=\frac{R}{b}\right) \\ f^{\prime}(x) &=\frac{-1}{x^{2}} \\ \chi_{i+1} &=\chi_{i}-\frac{f\left(\chi_{i}\right)}{f^{\prime}\left(\chi_{i}\right)}=\chi_{i}-\frac{\left(\frac{1}{\chi_{i}}-\frac{b}{R}\right)}{-1 / \chi_{i}^{2}} \\ \chi_{i+1} &=\chi_{i}+\chi_{i}^{2}\left(\frac{1}{\chi_{i}}-\frac{b}{R}\right)=2 \chi_{i}-\frac{b \chi_{i}^{2} \rightarrow \text { multiply }}{R \rightarrow \text { easy div }} \end{aligned}$

误差分析

$\begin{aligned} \chi_{i+1} &=2 \chi_{i}-\frac{b \chi_{i}^{2}}{R} \quad \text { Assume } \chi_{i}=\frac{R}{b}\left(1+\epsilon_{i}\right) \\ &=2 \frac{R}{b}\left(1+\epsilon_{i}\right)-\frac{b}{R}\left(\frac{R}{b}\right)^{2}\left(1+\epsilon_{i}\right)^{2} \\ &=\frac{R}{b}\left(\left(2+2 \epsilon_{i}\right)-\left(1+2 \epsilon_{i}+\epsilon_{i}^{2}\right)\right) \\ &=\frac{R}{b}\left(1-\epsilon_{i}^{2}\right)=\frac{R}{b}\left(1+\epsilon_{i+1}\right) \text { where } \epsilon_{i+1}=-\epsilon_{i}^{2} \end{aligned}$

由此可见除法的收敛速度也是平方的. 这个速度会很快.

$\sqrt{a}$ 的计算复杂度

回顾 $x_{n+1}= \frac{x_n+a/x_n}{2}$ ,
这个公式告诉我们每次迭代需要计算一次除法,
但是每次除法的精度不一定都要达到预先想要的精度n, 可以慢慢提高计算精度.
也就是按照迭代的累计, 不断提高精度. 最后我们可以得到下面的式子.
最后可以得到计算精度实际上为 $O(d^{\alpha})$

$\cdot 1^{\alpha}+c \cdot 2^{\alpha}+c \cdot 4^{\alpha}+\cdots+c \cdot\left(\frac{d}{4}\right)^{\alpha}+c \cdot\left(\frac{d}{2}\right)^{\alpha}+c \cdot d^{\alpha}<2 c \cdot d^{\alpha}$

floor 操作可行么?

对于下面的式子,
$\chi_{i+1}=\left\lfloor\frac{\chi_{i}+\left\lfloor a / \chi_{i}\right\rfloor}{2}\right\rfloor$

我们稍作分析可得. $\begin{aligned} \chi_{i+1} &=\frac{\chi_{i}+\frac{a}{\chi_{i}}-\alpha}{2}-\beta \\ &=\frac{\chi_{i}+\frac{a}{\chi_{i}}}{2}-\gamma \quad \text { where } \gamma=\frac{\alpha}{2}+\beta \text { and } 0 \leq \gamma<1 \end{aligned}$

因为, $\frac{a+b}{2} \geq \sqrt{a b}, \frac{\chi_{i}+\frac{a}{\chi_{i}}}{2} \geq \sqrt{a}$ ,
我们可得 $\frac{x_i+a/x_i}{2}-\gamma\geqslant \lfloor\sqrt{a}\rfloor$