随机算法之随机选择

1. 问题定义

        输入：n个无序元素 S = {x1, x2, ... , xn}；

        输出：S中第k个最小元素。

2. 随机算法

        如果先对n个元素进行递增排序，然后直接返回排在第k个位置上的元素即可求解。因此，此题的时间复杂度就是排序的时间复杂度O(nlogn)。随机算法给出一个新的思路，能够以很高的概率确保在线性时间O(n)内求得问题的解。

        基本思路：为了能够在线性时间求解，随机算法每次只是对部分元素进行排序，然后进一步求解。随机算法一般分为三个阶段：第一个阶段，从n个元素中选取n^(3/4)个元素进行排序（均匀、独立、可放回地抽样），记为R；第二个阶段，试图从R中选出两个元素L和H使得L ≤ min(S,k) ≤ H, 利用概率的知识原先在S中的第k小元素求得在R中应该是k' = k/n * n^(3/4), 由于k'存在误差，查找的位置从k'左右扩展n^(1/2)个元素，因此l取max(k' - n^0.5, 0), h取min(k' + n^0.5, n^3/4)，最后L取R中第l个元素，H取R中第h个元素；第三个阶段，从S中抽取所有介于L和H之间的元素构成子集P,如果min(S, k)∈P且|P| ≤ 4*n^3/4 + 1,则可以在O(n)时间内对P进行排序并找到目标元素，其中min(S, k)∈P当且仅当Lp≤ k ≤Hp（Lp为S中比L小的元素个数，Hp为S中比H小的元素个数）。算法步骤如下：

         1. R = 独立、均匀、可放回地从S中选取n^(3/4)个元素；

         2. 在O(n)时间内对R进行排序 ;

         3. k' = k/n * n^(3/4) ;

         4. l =max( k' - n^1/2, 0), h = min(k' + n^1/2, n^3/4);

         5. L = min(R, l), H = min(R, h)   // min(R,l)的意思是从R中选取第l个元素;

         6. Lp = Rank(S,L),  Hp = Rank(S,H)  // Rank(S,L) 的意思是S中比L小的元素个数;

         7. P = {y∈S| L≤ y ≤H };

         8. If  min(S, k)∈P and |P| ≤ 4*n^3/4 + 1  //  min(S, k)∈P 当且仅当 Lp≤ k ≤Hp;

         9. Then  对P中的元素进行排序，返回第k-Lp位置上的元素， 算法结束;

        10. Else goto 1.

3. 算法的性能分析

         算法第1步的开销为O(n^3/4)=O(n); 第2步的开销为O(n); 第3~5步的开销为1；第6步需要比较2n次； 第7步是O(n)时间；第8步只需O(1)的时间进行判断；第9步需要O(n)时间。于是算法第1~9步执行一遍总的时间开销为O(n)。借助切比雪夫不等式，可以证明该算法在O(n)时间内求出min(S,k)的概率是1 - O(n^-1/4)。