布隆过滤器:
布隆过滤器是一个二进制的数组。
- 首先,布隆过滤器会通过n个哈希函数,将数据计算为n个哈希值,再将n个哈希值,映射到数组中去(哈希值与数组下标对应),将数组中下标对应的0改为1。
- n个数组下标对应的必须都是1,才能代表布隆过滤器存在该数据;只要有一个二进制数据不是1,那么便意味着布隆过滤器不存在这个数据
- 布隆过滤器很难做到删除操作,这是因为某个下标对应的数组很可能存在多个数据,容易造成误删。
优点:
- 布隆过滤器是由一串二进制数组组成的一个数据,所占空间比较小。
- 插入和查询的速度快。因为它是计算这个数据的哈希值,再由哈希值映射到这个数组的下标,基于数组的这个特性,它的查询和插入是非常快的。只需根据算好的角标去找相应的数据就可以了,时间复杂度是O(K)(K代表的是哈希函数的个数)
- 保密性非常好。存储的都是二进制数据,只有0和1。0和1 别人也不知道代表的是什么,本身也不储存这个原始的数据。
缺点
- 很难进行删除的操作。
- 存在误判。这个数据本身不存在于这个集合中,但是这个集合经过一系列的运算之后,它判断这个数据是存在于这个集合当中,因为不同的数据,经过计算出来的哈希值可能是相同的,所以存在相同的哈希值,就会存在这个误判的情况的。
误判不可避免,只能减少其发生的概率。
误差率越小。所需要的空间便越大,需要的哈希函数也就越多。
实现布隆过滤器的代码示例:
1.使用Guava方式实现
首先在pom.xml文件中引入
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>29.0-jre</version>
</dependency>
代码实现:
import com.google.common.hash.BloomFilter;
import com.google.common.hash.Funnels;
public class BloomFilterCase {
/**
* 预计要插入多少数据
*/
private static int size = 1000000;
/**
* 期望的误判率
*/
private static double fpp = 0.01;
/**
* 布隆过滤器
*/
private static BloomFilter<Integer> bloomFilter = BloomFilter.create(Funnels.integerFunnel(), size, fpp);
public static void main(String[] args) {
// 插入10万样本数据
for (int i = 0; i < size; i++) {
bloomFilter.put(i);
}
// 用另外十万测试数据,测试误判率
int count = 0;
for (int i = size; i < size + 100000; i++) {
if (bloomFilter.mightContain(i)) {
count++;
System.out.println(i + "误判了");
}
}
System.out.println("总共的误判数:" + count);
}
}
测试可知:
总共误判数为947,约等于误判率0.01
2.使用Redis来实现布隆过滤器
首先在pom.xml文件中插入:
<dependency>
<groupId>org.redisson</groupId>
<artifactId>redisson-spring-boot-starter</artifactId>
<version>3.13.4</version>
</dependency>
Java代码:
public class RedissonBloomFilter {
public static void main(String[] args) {
Config config = new Config();
//redis的地址和密码
config.useSingleServer().setAddress("redis://127.0.0.1:6379");
config.useSingleServer().setPassword("1234");
//构造Redisson
RedissonClient redisson = Redisson.create(config);
RBloomFilter<String> bloomFilter = redisson.getBloomFilter("phoneList");
//初始化布隆过滤器:预计元素为100000000L,误差率为3%
bloomFilter.tryInit(100000000L,0.03);
//将号码10011插入到布隆过滤器中
bloomFilter.add("10011");
//判断下面号码是否在布隆过滤器中
//输出true
System.out.println(bloomFilter.contains("10011"));
//输出false
System.out.println(bloomFilter.contains("1000000"));
}
}
测试结果: