算法--bitmap算法

这部分参考博客:http://www.cnblogs.com/huangxincheng/archive/2012/12/06/2804756.html 在所有具有性能优化的数据结构中,我想大家使用最多的就是hash表,是的,在具有定位查找上具有O(1)的常量时间,多么的简洁优美,但是在特定的场合下:①:对10亿个不重复的整数进行排序。②:找出10亿个数字中重复
摘要由CSDN通过智能技术生成


这部分参考博客:http://www.cnblogs.com/huangxincheng/archive/2012/12/06/2804756.html

 在所有具有性能优化的数据结构中,我想大家使用最多的就是hash表,是的,在具有定位查找上具有O(1)的常量时间,多么的简洁优美,

但是在特定的场合下:

①:对10亿个不重复的整数进行排序。

②:找出10亿个数字中重复的数字。

当然我只有普通的服务器,就算2G的内存吧,在这种场景下,我们该如何更好的挑选数据结构和算法呢?

 

一:问题分析

     这年头,大牛们写的排序算法也就那么几个,首先我们算下放在内存中要多少G: (10亿 * 32)/(1024*1024*1024*8)=3.6G,可怜

的2G内存直接爆掉,所以各种神马的数据结构都玩不起来了,当然使用外排序还是可以解决问题的,由于要走IO所以暂时剔除,因为我们

要玩高性能,无望后我们想想可不可以在二进制位上做些手脚?  

比如我要对{1,5,7,2}这四个byte类型的数字做排序,该怎么做呢?我们知道byte是占8个bit位,其实我们可以将数组中的值作为bit位的

key,value用”0,1“来标识该key是否出现过?下面看图:

从图中我们精彩的看到,我们的数组值都已经作为byte中的key了,最后我只要遍历对应的bit位是否为1就可以了,那么自然就成有序数组了。

可能有人说,我增加一个13怎么办?很简单,一个字节可以存放8个数,那我只要两个byte就可以解决问题了。

可以看出我将一个线性的数组变成了一个bit位的二维矩阵,最终我们需要的空间仅仅是:3.6G/32=0.1G即可,要注意的是bitmap排序不

是N的,而是取决于待排序数组中的最大值,在实际应用上关系也不大,比如我开10个线程去读byte数组,那么复杂度为:O(Max/10)。

 

二:代码

  我想bitmap的思想大家都清楚了,这一次又让我们见证了二进制的魅力,当然这些移位都是位运算的工作了,熟悉了你就玩转了。

1:Clear方法(将数组的所有bit位置0)

   比如要将当前4对应的bit位置0的话,只需要1左移4位取反与B[0] & 即可。


#region 初始化所用的bit位为0
        /// <summary>
        /// 初始化所用的bit位为0
        /// </summary>
        /// <param name="i"></param>
        static void Clear(byte i)
        {
            //相当于 i%8 的功能
            var shift = i & 0x07;

            //计算应该放数组的下标
            var arrindex = i >> 3;

            //则将当前byte中的指定bit位取0,&后其他对方数组bit位必然不变,这就是 1 的妙用
            var bitPos = ~(1 << shift);

            //将数组中的指定bit位置一  “& 操作”
            a[arrindex] &= (byte)(bitPos);
        }
        #endregion



2:Add方法(将bit置1操作)

  同样也很简单,要将当前4对应的bit位置1的话,只需要1左移4位与B[0] | 即可。


#region 设置相应bit位上为1
        /// <summary>
        /// 设置相应bit位上为1
        /// </summary>
        /// <param name="i"></param>
        static void Add(byte i)
        {
            //相当于 i%8 的功能
            var shift = i & 0x07;

            //计算应该放数组的下标
            var arrindex = i >> 3;

            //将byte中的 1 移动到i位
            var bitPos = 1 << shift;

            //将数组中的指定bit位置一  “| 操作”
            a[arrindex] |= (byte)bitPos;
        }
        #endregion


2:Contain方法(判断当前bit位是否是1)

    如果看懂了Clear和Add,我相信最后一个方法已经不成问题了。

#region 判断当前的x在数组的位中是否存在
        /// <summary>
        ///判断当前的x在数组的位中是否存在
        /// </summary>
        /// <param name="i"></param>
        /// <returns></returns>
        static bool Contain(byte i)
        {
            var j = a[i >> 3] & (1 << (i & 0x07));

            if (j == 0)
                return false;
            return true;
        }
        #endregion


总代码部分:

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Diagnostics;
using System.Threading;
using System.IO;

namespace ConsoleApplication2
{
    public class Program
    {
        static byte n = 7;

        static byte[] a;

        public static void Main()
        {
            //节省空间的做法
            a = new byte[(n >> 3) + 1];

            for (byte i = 0; i < n; i++)
                Clear(i);

            Add(4);
            Console.WriteLine("插入4成功!");

            var s = Contain(4);

            Console.WriteLine("当前是否包含4:{0}", s);

            s = Contain(5);

            Console.WriteLine("当前是否包含5:{0}", s);

            Console.Read();
        }

        #region 初始化所用的bit位为0
        /// <summary>
        /// 初始化所用的bit位为0
        /// </summary>
        /// <param name="i"></param>
        static void Clear(byte i)
        {
            //相当于 i%8 的功能
            var shift = i & 0x07;

            //计算应该放数组的下标
            var arrindex = i >> 3;

            //则将当前byte中的指定bit位取0,&后其他对方数组bit位必然不变,这就是 1 的妙用
            var bitPos = ~(1 << shift);

            //将数组中的指定bit位置一  “& 操作”
            a[arrindex] &= (byte)(bitPos);
        }
        #endregion

        #region 设置相应bit位上为1
        /// <summary>
        /// 设置相应bit位上为1
        /// </summary>
        /// <param name="i"></param>
        static void Add(byte i)
        {
            //相当于 i%8 的功能
            var shift = i & 0x07;

            //计算应该放数组的下标
            var arrindex = i >> 3;

            //将byte中的 1 移动到i位
            var bitPos = 1 << shift;

            //将数组中的指定bit位置一  “| 操作”
            a[arrindex] |= (byte)bitPos;
        }
        #endregion

        #region 判断当前的x在数组的位中是否存在
        /// <summary>
        ///判断当前的x在数组的位中是否存在
        /// </summary>
        /// <param name="i"></param>
        /// <returns></returns>
        static bool Contain(byte i)
        {
            var j = a[i >> 3] & (1 << (i & 0x07));

            if (j == 0)
                return false;
            return true;
        }
        #endregion
    }
}


这部分参考博客:http://blog.csdn.net/hackerwin7/article/details/17585257

久闻《编程珠玑》一书中提出的bitmap算法之大名,只是没有深入的去研究,今天下午有兴致研究一番,才知道其中的玄机奥秘,不亚于KMP算法之巧妙,下面就由浅入深的谈谈bitmap算法。 

一、bitmap算法思想 

    32位机器上,一个整形,比如int a; 在内存中占32bit位,可以用对应的32bit位对应十进制的0-31个数,bitmap算法利用这种思想处理大量数据的排序与查询. 

    优点:1.运算效率高,不许进行比较和移位;2.占用内存少,比如N=10000000;只需占用内存为N/8=1250000Byte=1.25M。 
   缺点:所有的数据不能重复。即不可对重复的数据进行排序和查找。 

   比如: 
          第一个4就是 
          00000000000000000000000000010000 
          而输入2的时候 
          00000000000000000000000000010100 
          输入3时候 
          00000000000000000000000000011100 
          输入1的时候 
          00000000000000000000000000011110 </

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值