分治算法复杂度和递推关系

通过递推关系求解分治算法复杂度

1 引言

分治算法：将一个问题划分成较小规模的同一个问题的一个或多个实例，这些子问题相互独立且与原问题形式相同。我们通过处理这些小规模问题的解找到初始问题的解。其一般的算法设计模式如下：

divide-and-conquer(P){
	if(|P| <= n0)
		adhoc(P);
	divide P into smaller subinstance P1,P2,P3…Pk;
	for(int i = 1;i<=k;i++)
		yi = divide-and-conquer(Pi);
	return merge(y1,y2,y3…,yk);
}

note：其中|P|表示问题P的规模，n0为一阈值，表示问题P规模不超过n0时，问题容易解出，不必继续分解。adhoc§是该分治法中的基本子算法，用于直接解决小规模问题P，当P的规模不超过n0时，直接用adhoc()求解。算法merge(y1,y2…,yk)是该分治算法中的合并子算法。

2 建立分治算法复杂度的递推关系

我们在通过分治算法找其递推关系时往往比较关注问题的如下几个方面，这些方面直接影响了我们设计的算法的效率，在设计算法分析算法好坏中至关重要。

1. 我们关注我们将原规模为$n$问题转化为了几个子问题，即$P_1,P_2,\cdots P_k$中的$k$.
2. 我们关注每个子问题的规模，即|$P_i$|
3. 同时，还应关注在通过已有小规模问题的解求解原问题时，可能会引入一些额外的工作，即$merge(P_1,\cdots ,P_k)$的操作规模。

举例：我们在二分查找的过程中将一个从$n$个数组成的list[n]数组中查找键值为$a$的元素。
1.我们将原问题转化为了在其一个子序列中查找对应元素的问题，即$k=1$
2.每个子问题的规模是原问题规模的$1/2$
3.我们引入以下两个额外的步骤：
--------$计算mid=(left+right)/2$
--------$比较list[mid]与a的大小关系$

由这些已知条件，我们可以给出一个分之算法的复杂度$f(n)$的递推公式：
我们不妨设一个递归算法吧一个规模为n的问题分成了a个子问题，每个问题的规模是n/b，且设由各个子问题的解组合成原问题的解的处理步骤需要总量为 g(n) 的额外步骤。设$f(n)$:解决规模为$n$的问题的算法复杂度，则有如下$f$的递推关系：
$$f(n)=af(n/b)+g(n)\text{\hspace{1em}(1)}$$

3 使用递推关系求解分治算法复杂度

对于$(1)$类型的递推公式，我们有以下结论来对其阶进行估计：首先我们根据$g(n)$的形式不同分成以下两种不同的情况其中$c,d$为常数：

• $g(n)=c$
• $g(n)=c{n}^d$

3.1首先考虑情况$g(n)=c$

定理1 设函数$f$满足这个递推关系：$f(n)=af(n/b)+c$的增函数，其中$a\ge 1$,$b$