位图排序 大数据_对大数据量进行排序--位图法

题目:对2G的数据量进行排序,这是基本要求。

数据:1、每个数据不大于8亿;2、数据类型位int;3、每个数据最多重复一次。

内存:最多用200M的内存进行操作。

我听过很多种类似问题的解法,有的是内存多次利用,有的用到了外存,我觉得这两种做法都不是比较好的思想,太慢。由于这个题目看起来没有对效率进行约束,所以这两种方法也是对的,但是我这次提出一个比较好的算法来解答此题,如果有更好的做法请赶快跟帖留言,共同讨论。希望大神们的加入。。。。。

思想:把200M的内存平分,可以开两个数组,一个数组arr存放一遍不重复的所有数据,另一个数组arr_2只存放重复的数据。存放方法是对数组中的每个数据的位进行操作。比如:18这个数,18/32=0,18就会对应arr[0]这个数组中的某一位,而每一个数组元素都是32位组成,18%32=18,也就是说arr[0]那个数的第18位对应18这个数。同样道理再来一个数:43    43/32=1,43%32=11,也就是说43对应的是arr[1]中的第11位。只要找到了对应位置,把该位置1,其余位置不变(默认为0),遍历一次数据,就会把内存中的对应位置1.如果遇到重复数据,此时就会用到第二个数组了,若本次查询该位已经为1,那么就要把arr_2这个数组中的对应位置1。在输出的时候就要同步遍历两个数组。

输出:就是一个反向还原过程,遍历内存中的每一位,该位对应的有数组下标和所处位,进行一次乘、和运算就能还原回来数据,并依次写入文件或者打印到屏幕上。

/*

如何对某一位置0或者置1?

#define setbit(x,y) x|=(1<

#define clrbit(x,y) x&=!(1<

*/

#define BITSPERWORD 32 //数组每个元素32位

#define SHIFT 5

#define MASK 0x1F

#define MAXNUM 10000 //最大整数

const int num = 6000; //整数个数

int length = 1 + MAXNUM / BITSPERWORD; //最大数值除以32得到数组大小

unsigned int *a = new unsigned int[length];

//i>>SHIFT表示i在数组中的下标 等价于i/32;1<

//i & MASK == i % 32 == 余数 == i & (32 - 1) == i & MASK 就是对32做MOD求余数

void set(int i) { a[i>>SHIFT] |= (1<

void clr(int i) { a[i>>SHIFT] &= ~(1<

//若第0 bit为1,返回1;若第3 bit为1,则返回8;若第10 bit为1,则返回1024

int test(int i) { return a[i>>SHIFT] & (1<

int main(void)

{

for (int i=0;i!=length;++i)

a[i]=0; //每bit都初始化为0

srand(time(0));

int i = 0;

while(i != num) //生成num个大小不超过MAXNUM的整数

{

int p = rand() % MAXNUM;

if (!test(p))

{

set(p);

++i;

}

}

for (i=0; i

{

if(test(i))

cout<

}

return 0;

}

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值