外部排序-CSDN博客

本文链接：https://blog.csdn.net/lewyu521/article/details/83210646

文章目录

一.外部排序定义
二.外部排序的基本思路
三.多路归并排序算法以及败者树

一.外部排序定义

外部排序指的是大文件的排序，即待排序的记录存储在外存储器上，待排序的文件无法一次装入内存，需要在内存和外部存储器之间进行多次数据交换，以达到排序整个文件的目的。外部排序最常用的算法是多路归并排序，即将原文件分解成多个能够一次性装入内存的部分，分别把每一部分调入内存完成排序。然后，对已经排序的子文件进行多路归并排序。

二.外部排序的基本思路

1）按可用内存的大小，把外存上含有n个记录的文件分成若干个长度为L的子文件，把这些子文件依次读入内存，并利用有效的内部排序方法对它们进行排序，再将排序后得到的有序子文件重新写入外存；

2）对这些有序子文件逐趟归并，使其逐渐由小到大，直至得到整个有序文件为止。

下面举个栗子。
假设有一个72KB的文件，其中存储了18K个整数，磁盘中物理块的大小为4KB，将文件分成18组，每组刚好4KB。

首先通过18次内部排序，把18组数据排好序，得到初始的18个归并段R1~R18，每个归并段有1024个整数。

然后对这18个归并段使用4路平衡归并排序：

第1次归并：产生5个归并段

R11 R12 R13 R14 R15

其中

R11是由{R1,R2,R3,R4}中的数据合并而来

R12是由{R5,R6,R7,R8}中的数据合并而来

R13是由{R9,R10,R11,R12}中的数据合并而来

R14是由{R13,R14,R15,R16}中的数据合并而来

R15是由{R17,R18}中的数据合并而来

把这5个归并段的数据写入5个文件：

foo_1.dat foo_2.dat foo_3.dat foo_4.dat foo_5.dat

第2次归并：从第1次归并产生的5个文件中读取数据，合并，产生2个归并段

R21 R22

其中R21是由{R11,R12,R13,R14}中的数据合并而来

其中R22是由{R15}中的数据合并而来

把这2个归并段写入2个文件

bar_1.dat bar_2.dat

第3次归并：从第2次归并产生的2个文件中读取数据，合并，产生1个归并段

R31

R31是由{R21,R22}中的数据合并而来

把这个文件写入1个文件

foo_1.dat

此即为最终排序好的文件。

三.多路归并排序算法以及败者树

多路归并排序算法在常见数据结构书中都有涉及。从2路到多路（k路），增大k可以减少外存信息读写时间，但k个归并段中选取最小的记录需要比较k-1次，为得到u个记录的一个有序段共需要(u-1)(k-1)次，若归并趟数为s次，那么对n个记录的文件进行外排时，内部归并过程中进行的总的比较次数为s(n-1)(k-1)，也即(向上取整)(logkm)(k-1)(n-1)=(向上取整)(log2m/log2k)(k-1)(n-1)，而(k-1)/log2k随k增而增因此内部归并时间随k增长而增长了，抵消了外存读写减少的时间，这样做不行，由此引出了“败者树”tree of loser的使用。在内部归并过程中利用败者树将k个归并段中选取最小记录比较的次数降为(向上取整)(log2k)次使总比较次数为(向上取整)(log2m)(n-1)，与k无关。
败者树是完全二叉树。因此数据结构可以采用一维数组。其元素个数为k个叶子结点、k-1个比较结点、1个冠军结点共2k个。ls[0]为冠军结点，ls[1]–ls[k-1]为比较结点，ls[k]–ls[2k-1]为叶子结点（同时用另外一个指针索引b[0]–b[k-1]指向）。另外bk为一个附加的辅助空间，不属于败者树，初始化时存着MINKEY的值。

》多路归并排序算法的过程大致为：

1）：首先将k个归并段中的首元素关键字依次存入b[0]–b[k-1]的叶子结点空间里，然后调用CreateLoserTree创建败者树，创建完毕之后最小的关键字下标（即所在归并段的序号）便被存入ls[0]中。然后不断循环：

2）把ls[0]所存最小关键字来自于哪个归并段的序号得到为q，将该归并段的首元素输出到有序归并段里，然后把下一个元素关键字放入上一个元素本来所在的叶子结点b[q]中，调用Adjust顺着b[q]这个叶子结点往上调整败者树直到新的最小的关键字被选出来，其下标同样存在ls[0]中。循环这个操作过程直至所有元素被写到有序归并段里。

伪代码：

void Adjust(LoserTree &ls, int s)
/*从叶子结点b[s]到根结点的父结点ls[0]调整败者树*/
{
	int t, temp;
	t=(s+K)/2;   //t为b[s]的父结点在败者树中的下标，K是归并段的个数
	while(t>0) {        /*若没有到达树根，则继续*/
		if(b[s]>b[ls[t]]) { //与父结点指示的数据进行比较
			temp=s;        //ls[t]记录败者所在的段号，s指示新的胜者，
			s=ls[t];      //	胜者将去参加更上一层的比较
			ls[t]=temp;
		}
		t=t/2;   /*向树根退一层，找到父结点*/
	}
	ls[0]=s;     /*ls[0]记录本趟最小关键字所在的段号*/
}

void K_merge( int ls[K])
/*ls[0]~ls[k-1]是败者树的内部比较结点。
b[0]~b[k-1]分别存储k个初始归并段的当前记录*/
/*函数Get_next(i)用于从第i个归并段读取并返回当前记录*/
{
	int b[K+1),i,q;
	for(i=0; i<K; i++) {
		b[i]=Get_next(i);    /*分别读取K个归并段的第一个关键字*/
	}
	b[K]=MINKEY;             /*创建败者树*/
	for(i=0; i<K ; i++)      /*设置ls中的败者初值*/
		ls[i]=K;
	for(i=K-1 ; i>=0 ; i--)  /*依次从b[K-1]……b[0]出发调整败者*/
		Adjust(ls , i);      //败者树创建完毕，最小关键字序号存入ls[0]
	while(b[ls[0]] !=MAXKEY ) {
		q=ls[0];             /*q为当前最小关键字所在的归并段*/
		prinftf("%d",b[q]);
		b[q]=Get_next(q);
		Adjust(ls,q);        /*q为调整败者树后，选择新的最小关键字*/
	}
}