10亿手机号如何去重?(BitMap)

方案一使用数组

一个数组存入10亿数据,第一位手机号一定为1则忽略。

如果存储的是String类型 存储10e个 需要9.5GB左右。
如果存储的是Long类型 存储10e个 需要7.5GB左右。

进行for循环运算效率很低,内存占用很大。

方案二使用HashSet

HashSet底层使用HashMap,需要记录hash值、value、key、next节点等各种各样的东西。消耗内存可想而知,20GB左右。

方案三BitMap

Bit-map的基本思想就是用一个bit位来标记某个元素对应的Value,而Key即是该元素。由于采用了Bit为单位来存储数据,因此在存储空间方面,可以大大节省

声明一个Bit数组

在这里插入图片描述
如果对应的数字存在 那么表示1,如果不存在表示0. 此时的BitMap数组内存为1.2G。

java.util.BitSet

而java中java.util.BitSet 来实现了 BitMap特性。
当存放10位手机号时会发现
在这里插入图片描述
因为BitSet中定义的是Integer这样已经超过了Integer.MAX_VALUE。
所以我们使用分桶理论

分桶理论

        //电话号 135 2333 3222
        BitSet bitSet = new BitSet();
        bitSet.set(23333222);
        
        Map<String,BitSet> map = new HashMap();
        //当Key存在时,BiFunction一定会被执行
        BitSet bitSet135 = map.computeIfAbsent("135", k -> bitSet);
        System.out.println(bitSet135.get(23333222));
        System.out.println(bitSet135.get(23333221));

在这里插入图片描述
从而所占用的内存只有360M

  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一只小小狗

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值