布隆算法Bitmap(位图算法)

实际上bitmap算法是去重算法之一 (内存数据库hana)
1.hashset也可以实现去重的功能,但是耗内存比较多
2.相关的开源实现EWAHCompressedbitMap

BitMap算法就是一个高效的区重算法
其实质就是把对应的不存在就是0,存在就是1

相关描述

来自于《编程珠玑》。所谓的Bit-map就是用一个bit位来标记某个元素对应的Value, 而Key即是该元素。由于采用了Bit为单位来存储数据,因此在存储空间方面,可以大大节省。
如果说了这么多还没明白什么是Bit-map,那么我们来看一个具体的例子,假设我们要对0-7内的5个元素(4,7,2,5,3)排序(这里假设这些元素没有重复)。那么我们就可以采用Bit-map的方法来达到排序的目的。要表示8个数,我们就只需要8个Bit(1Bytes),首先我们开辟1Byte的空间,将这些空间的所有Bit位都置为0
然后遍历这5个元素,首先第一个元素是4,那么就把4对应的位置为1(可以这样操作 p+(i/8)|(0×01<<(i%8)) 当然了这里的操作涉及到Big-ending和Little-ending的情况,这里默认为Big-ending),因为是从零开始的,所以要把第五位置为1。
然后再处理第二个元素7,将第八位置为1,,接着再处理第三个元素,一直到最后处理完所有的元素,将相应的位置为1。
然后我们现在遍历一遍Bit区域,将该位是一的位的编号输出(2,3,4,5,7),这样就达到了排序的目的。
其实就是把计数排序用的统计数组的每个单位缩小成bit级别的布尔数组

实现代码

package main

import (
    "fmt"
    "math"
    "math/rand"
    "unsafe"
)

const (
    size = 100
)

func main() {
    test_sort()
}

func test_sort() {
    arr := make([]int, size) // int占4字节,100个就占用占用400字节,3200位
    for i := 0; i < len(arr); i++ {
        arr[i] = rand.Intn(size)
    }
    print_array(arr)
    newarr := bitmap_sort(arr)
    print_result(newarr)
}

func print_array(arr []int) {
    fmt.Printf("array:")
    for i := 0; i < len(arr); i++ {
        fmt.Printf(" %d", arr[i])
    }
    fmt.Printf("\n")
}

//内存少数据最大值小可以采用方式,位排序
func bitmap_sort(arr []int) (newarr []int) {
    var left uint32
    size := int(unsafe.Sizeof(arr[0]) * 4)
    newarr = make([]int, len(arr))
    for i := 0; i < len(arr); i++ {
        index := arr[i] / size
        left = uint32(arr[i] % size)

        leftvalue := newarr[index] & (int(math.Pow(2.0, float64(left))) - 1)
        newarr[index] = (newarr[index] >> left)
        if (newarr[index] & 1) == 0 {
            newarr[index] += 1
        }
        newarr[index] = (newarr[index] << left) + leftvalue
    }
    return newarr
}

func print_result(arr []int) {
    index := 0
    size := int(unsafe.Sizeof(arr[0]) * 4)
    fmt.Printf("new array:")

    for i := 0; i < len(arr); i++ {
        for j := 0; j < size; j++ {

            bit := arr[i] & 1
            if bit != 0 {
                fmt.Printf(" %d", index)
            }
            arr[i] = arr[i] >> 1
            index++
        }
    }
}

相关链接
http://blog.studygolang.com/2014/09/bitmap_multi_language/

代码链接
https://github.com/polaris1119/bitmap/blob/master/bitmap.go

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Redis提供的Bitmap可以作为布隆过滤器所需要的位数组的基础。布隆过滤器是一种数据结构,用于判断一个元素是否属于一个集合,具有高效的添加和查询操作。布隆过滤器使用一系列的哈希函数将元素映射到位数组中的多个位置,通过检查这些位置是否被置为1来判断元素是否存在。Redis的Bitmap就是一种位数组,可以将布隆过滤器的位数组存储在其中。Bitmap提供了位操作的功能,可以用来设置和查询位的状态。通过使用Bitmap,我们可以方便地实现布隆过滤器的添加和查询操作。因此,Redis的Bitmap正好适用于实现布隆过滤器的功能。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [借助Redis Bitmap实现简单的布隆过滤器](https://blog.csdn.net/huangchonghai/article/details/120340977)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [玩转Redis-Redis中布隆过滤器的使用及原理](https://blog.csdn.net/u010887744/article/details/108700911)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值