大数据技术----HBase过滤器

常用过滤器

过滤器操作

scan可以扫描全表的数据,通过过滤器来进行条件查询。
在这里插入图片描述
指定列族:列的所有cell中进行值的过滤:
SingleColumnValueFilter(‘StuInfo’,‘Age’,=,‘binary:23’)
返回满足条件的cell所在的行;而ValueFilter则返回cell
SingleColumnValueExcludeFilter(),返回的行数据中,只是不包含条件过滤的cell

设置每行返回的列数ColumnCountGetFilter

hbase(main):053:0> get 'Student','001',FILTER=>"ColumnCountGetFilter(3)"
COLUMN                CELL                                                      
 Grades:Bag           timestamp=2, value=100                                    
 Grades:BigData       timestamp=2, value=80                                     
 Grades:Computer      timestamp=2, value=90                                     
1 row(s) in 0.0150 seconds

设置返回的行数PageFilter,行分页
结合STARTROW使用,进行行分页

hbase(main):056:0> scan 'Student',FILTER=>"PageFilter(1)"
ROW                   COLUMN+CELL                                               
 001                  column=Grades:BigData, timestamp=2, value=80              
 001                  column=Grades:Computer, timestamp=2, value=90             
 001                  column=Grades:Math, timestamp=26, value=85                
 001                  column=StuInfo:Age, timestamp=3, value=19                 
 001                  column=StuInfo:Class, timestamp=2, value=02               
 001                  column=StuInfo:Name, timestamp=1, value=Tom Green         
 001                  column=StuInfo:Sex, timestamp=1, value=Male               
1 row(s) in 0.0160 seconds

hbase(main):066:0> scan 'Student',{STARTROW=>'002',FILTER=>'PageFilter(1)'}
ROW                   COLUMN+CELL                                               
 002                  column=StuInfo:Age, timestamp=2, value=23                 
 002                  column=StuInfo:Name, timestamp=2, value=Lucy              
1 row(s) in 0.0090 seconds
#等价如下:
hbase(main):066:0> scan 'Student',{STARTROW=>'002',LIMIT=>1}
ROW                   COLUMN+CELL                                               
 002                  column=StuInfo:Age, timestamp=2, value=23                 
 002                  column=StuInfo:Name, timestamp=2, value=Lucy              
1 row(s) in 0.0090 seconds

设置列的分页ColumnPaginationFilter
ColumnPaginationFilter(num,offset)
偏移offset列,取num列

hbase(main):067:0> scan 'Student',FILTER=>"ColumnPaginationFilter(2,1)"
ROW                   COLUMN+CELL                                               
 001                  column=Grades:Computer, timestamp=2, value=90             
 001                  column=Grades:Math, timestamp=26, value=85                
 002                  column=StuInfo:Name, timestamp=2, value=Lucy              
2 row(s) in 0.0210 seconds

过滤器的组合
AND,OR连接

hbase(main):009:0> scan 'Student',FILTER=>"ColumnPaginationFilter(1,1) OR ValueFilter(=,'substring:Ma')"
ROW                   COLUMN+CELL                                               
 001                  column=Grades:Computer, timestamp=2, value=90             
 001                  column=StuInfo:Sex, timestamp=1, value=Male               
 002                  column=Grades:Math, timestamp=1, value=89                 
2 row(s) in 0.0120 seconds
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
### 回答1: Hadoop是一个开源的分布式计算框架,主要用于处理大规模数据集。它的核心是HDFS(Hadoop分布式文件系统)和MapReduce计算模型。 Spark是一个快速、通用的大数据处理引擎,可以在内存中进行数据处理,比Hadoop MapReduce更快。它支持多种数据源,包括HDFS、HBase、Cassandra等。 Storm是一个分布式实时计算系统,可以处理实时数据流。它的核心是Storm集群,可以在多个节点上运行,实现高可用性和可扩展性。 Flink是一个分布式流处理框架,可以处理实时数据流和批处理数据。它的核心是DataStream API,可以进行流式计算和窗口计算。 Samza是一个分布式流处理框架,可以处理实时数据流。它的核心是Kafka和YARN,可以实现高可用性和可扩展性。 ### 回答2: 大数据框架是指一组用于处理大规模数据的软件工具。随着大数据及其分析应用的不断增长,数十个大数据框架已经随着时间而推出,其中包括hadoop、spark、storm、flink、samza等。下面将对这几种大数据框架进行详细介绍。 1. Hadoop Hadoop是一个在大数据应用领域最流行的框架。它是以Java语言开发的,是一个分布式的计算平台。通过它,用户能够处理超过普通计算机可以承受的数据量。Hadoop集群由多个计算机组成,在不同的计算机上存储和计算数据。Hadoop的主要组件包括HDFS(分布式文件系统),MapReduce计算模型(可以实现大规模数据的并行处理)。 2. Spark Spark是一个基于内存的计算框架,可以实现大数据的快速处理。与Hadoop相比,Spark运行速度更快,因为它可以在内存中执行计算任务。Spark可以通过Java、Scala和Python编写,还支持Spark SQL(基于SQL的查询),Spark Streaming(处理实时数据流)、MLlib(机器学习库)等功能模块。 3. Storm Storm也是一个实时数据处理框架。它能够实现一种“实时数据流”的处理模式,这在需要对流式数据进行实时处理和计算的场景中非常有用。Storm是一个分布式的框架,包括多个节点,支持高可靠性、水平扩展、非常灵活的拓扑连接等功能。 4. Flink Flink是一个高度可扩展、分布式的计算框架。它支持流式处理和批处理。通过内存进行数据计算,速度更快,同时也支持实时流式数据处理。Flink将传统的批量处理和流式处理集成到了一个框架中,将批量计算看成一种特殊形式的流式计算。 5. Samza Samza是一个其他不同大数据框架的组件,它是一个分布式流处理器,可以处理大量的流数据。它可以作为批处理系统的组件来使用,提供可靠的消息传递、基于字符串的状态存储、多维度流处理和都市需求等功能。Samza主要用于大规模流式数据的分析和处理,通常和其他的大数据处理框架一起使用。 总体来说,以上这几种大数据框架适用于不同的场景和需求。在实际应用时,需要根据具体情况进行选择和使用,以达到最佳的效果和效率。 ### 回答3: 大数据框架是当今大数据技术领域中越来越重要的一部分。在众多大数据框架中,Hadoop、Spark、Storm、Flink和Samza是其中最常用的框架。 Hadoop是由Apache基金会开发的开源框架,主要用于存储和处理大数据。它的核心组件包括HDFS和MapReduce。HDFS是一个分布式文件系统,通常用于存储大数据,而MapReduce是一种分布式数据处理模型,用于对大数据进行批处理。 Spark是另一个Apache开源项目,也是用于大数据处理的框架。与Hadoop不同的是,Spark使用内存计算,这意味着它可以比Hadoop更快地处理大量数据。Spark支持多种编程语言,包括Java、Scala和Python,也支持SQL查询和图形计算。 Storm是另一个Apache开源项目,主要用于流式数据处理。与Hadoop和Spark不同的是,Storm能够实时处理流数据,而不需要等待离线批处理。Storm支持容错和高可用性,并支持多种编程语言,包括Java、Scala和Clojure。 Flink是由Apache开发的开源流处理框架。与Storm类似,Flink也可以进行实时数据处理,并支持批处理模式。Flink的主要特点是低延迟和高吞吐量,同时支持复杂事件处理和机器学习。 最后,Samza也是另一个Apache开源框架,主要用于流式数据处理。与Storm和Flink不同的是,Samza的焦点是可扩展性和容错性。Samza的主要优点之一是它与Kafka集成良好,Kafka是一个分布式消息队列。 总之,Hadoop、Spark、Storm、Flink和Samza都是在大数据领域中广泛应用的重要框架。每个框架都有自己的特点和优劣,应根据具体的大数据需求和场景进行选择。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

laufing

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值