内容简介
一、过滤器简介
1.过滤器的基本概念
- 过滤器是HBase为客户端提供的一种高级API,是HBase的一种高级特性,它提供了非常强大的功能帮助用户处理表中的数据。HBase中读取数据的API主要是get()和scan(),它们都支持直接读取数据和通过指定起始行健访问数据的功能,可以通过添加限定条件如列族、列、时间戳等来限制查询的数量,但是它们缺少一种细粒度的的筛选功能,比如基于正则表达式的筛选。由此诞生过滤器,Get类和Scan类都支持过滤器,通过方法setFilter(Filter filter)可以设置查询时的过滤器。
- 过滤器是在服务端生效的,换言之过滤器并不是在查询结束,查询结果传送回客户端后再进行条件的过滤,返回过滤后的结果,而是直接在服务端生效,进行过滤,将过滤后的数据返回给客户端,处理流程如下:
1.客户端创建过滤器并配置好。
2.查询时发送序列化后的过滤器给对应的RegionServer。
3.RegionServer使用过滤器过滤数据,将过滤结果返回给客户端。
2.过滤器的层次结构
- 在过滤器的层次结构中最基本的接口是Filter,其次是抽象类FilterBase,分别实现了过滤器的空壳和骨架,FilterBase与Filter的关系是这样的:Filter定义了过滤器的所有基本方法,如果直接使用该接口则要实现大量的方法,而FilterBase实现了大部分方法,使得用户只需实现部分方法即可,因此大部分实体过滤器都是通过继承FilterBase类来实现的。
3.比较运算符
- 在HBase中有一类过滤器继承了CompareFilter类,CompareFilter类比基类FilterBase多了一个compare()方法,它需要传入参数来定义比较操作的过程:
4.运算器
- CompareFilter类需要的第二个参数是类型是比较器,比较器提供多种方法来比较不同的键值,比较器继承于WritableByteArrayComparable,WritableByteArrayComparable实现了Writable和Comparable接口,HBase提供了如下的比较器:
后面的三种比较器,即BitComparator,RegexStringComparator,SubStringComparator,只能与EQUAL或者NOT_EQUAL运算符搭配使用,因为这些比较器的compareTo()方法只返回1或0,如果使用其他的运算符,如LESS,就会出错。
二、比较过滤器的使用
0.比较过滤器的基本概念
- HBase提供的第一类比较器是比较过滤器(comparison filter),用户创建该过滤器实例时需要传入一个比较运算符和一个比较器,以下几个比较过滤器都有一个从CompareFilter类继承而来的方法,其方法签名是:
CompareFilter(CompareOp valueCompareOp,WritableByteArrayComparable valueComparator)
我们需要提供具体的比较运算符和比较器来使用它,实际上以下的几个比较器都基于此方法进行实例化。 - HBase中的过滤器本来是为了筛掉无用的数据,被过滤掉的数据不会被传送回客户端,过滤器不用于指定用户需要哪些信息,而是在读取数据的过程中不返回用户不想要的数据,简而言之,一般而言符合过滤器要求的数据将被拦截,不符合的数据被放行。但是比较过滤器刚好相反,符合过滤条件的将被放心,不符合条件的数据将被拦截,这是值得注意的。
1.行过滤器
- 行过滤器(RowFilter)基于行健来过滤数据,结合上文,可以知道用法就是传入一个运算符和比较器,行过滤器就会根据这两者进行数据筛选,符合这一行键条件的数据会返回客户端,假设我想查找比"row-15"大的行健所对应行的数据,核心代码为:
// 创建扫描器实例 Scan scan = new Scan(); // 创建行比较过滤器,传入比较运算符和比较器 Filter filter = new RowFilter(CompareFilter.CompareOp