豆瓣上看到有人推荐S. Dasgupta, C. H. Papadimitriou, 和U. V. Vazirani 写的Algorithms,随手翻了下⋯⋯
学计算机的没有不知道Hanoi 塔和Fibonacci 数列的。但Hanoi 塔问题是死的,而求解Fibonacci 数列却精彩不断。
Fibonacci 数列F0, F1, F2, ... 是这样定义的:
F0 = 0, F1= 1, Fn = Fn-1 + Fn-2.
如果用定义来求解,计算Fn至少需要Fn-1 + Fn-2 + 1 次加法(还不算对递归终点的判断),也就是说用这种策略计算Fn 所需的加操作不少于其自身。那Fn 是个什么数量级呢?Fn ≥ 20.5n (n ≥ 6)
不信?
F0 = 0, F1 = 1, F2 = 1, F3 = 2, F4 = 3, F5 = 5, F6 = 8, ...
20/2 = 1, 21/2 = √2, 22/2 = 2, 23/2 = 2√2, 24/2 = 4, 25/2 = 4√2, 26/2 = 8, ...
现在开始绑定自然数(数学归纳啦):
设Fk ≥ 2k/2 (6 ≤ k < n),则Fn = Fn-1 + Fn-2 ≥ 2·Fn-2 ≥ 2·2(n-2)/2 = 2n/2
0.5 应该是个比较糙的估计,上限是多少呢?
设Fk ≥ 2ck (6 ≤ k < n),则Fn = Fn-1 + Fn-2 ≥ 2c(n-1) + 2c(n-2) = 2c(n-2) (2c + 1) ≥ 2cn ,即 2c + 1 ≥ 22c
简单吧,一元二次方程。令t = 2c ,则t2 - t -1 ≤ 0 。还因为{Fn} 递减,所以2c > 1 = 20,0 < t ≤ (1+√5)/2,c ≤ log2(1+√5) - 1 ≈ 0.694
把不等号方向颠倒还可以得到Fn ≤ 20.694n,故Fn = Θ(20.694n)
故事并没有结束,注意到算Fn需要知道Fn-1和 Fn-2,而 Fn-2 在算 Fn-1 时已经算过一次。如果我们把计算结果都存上(memorization),完全可以在线性时间内求解。更进一步,存储整个数列是否必要,我们需要的只不过是最后两项啊。由此可以得到自底向上版本(动态规划?):
都O(n)了,但故事还没有结束。你可能知道Fibonacci 数列有个解析解(就是一个直接计算,不用递归的公式):
√5是个无理数,但结果确是整数。用浮点肯定会有误差,而且还不知道会不会发散⋯⋯再说就算用符号计算还不是得乘n次,复杂度没降啊。此路不通!
但是,故事还是没有结束。
虽然只是换了种写法,但世界因此不同^o^。谁说幂运算是线性的!看好了,24 = (22)2 = 42 = 16 可只用了两次(准确的说是⌈log2 4 ⌉次)乘法!
复杂度是O(log n)!
故事该结束了吧⋯⋯还没有。
是,我们只用了O(log n)次加法和乘法,但当数项不断增大,加法和乘法都不能在在常数时间内完成。时间复杂度的下限到底是多少?这个正在看-_-!
P.S. 学算法最痛快就是看着别人一点点改进(比如《编程珠玑》里提到的对N体问题的改进),就像看Harry Potter 一点点长大;
P.P.S 学算法最痛苦就是学了却不知道别人怎么想出来的⋯⋯
P.P.P.S 故意把小Ron 弄掉的,邪恶吧^o^