Hbase的热点问题
热点问题的产生
当大量的客户端访问定向到集群中的一个节点或者几个节点时,就会导致热点问题。此访问操作可能是写入,也可能是读取。大量的访问使得管理该region的计算机不堪重负,从而导致性能下降,并可能导致region的不可用。这也可能对同一RegionServer管理的其他region产生不利影响。
热点问题的解决
采用预分区的方式,解决热点问题
每一个region都维护着一个startRowKey和一个endRowKey,如果加入的范围符合某个region维护的rowkey范围,那么该数据交给这个region来维护,依照这个原则,我们可以将数据所要投放的分区提前大致规划好,提高Hbase的性能。
create 'mydb:table','base_info',SPLITS=>['1000','2000','3000','4000']
上述的预分区,将一个region分成了五部分
StartKey EndKey
1000
1000 2000
2000 3000
3000 4000
4000
可以插入条数据进入不同的分区:
put 'mydb:table','0001','base_info:name','zhangsan'
put 'mydb:table','1001','base_info:name','lisi'
put 'mydb:table','2001','base_info:name','wangwu'
put 'mydb:table','3001','base_info:name','zhaoliu'
put 'mydb:table','4001','base_info:name','zhouqi'
上述所示,再插入数据的时候,指定分区,可将数据插入自己想要插入的分区。
从热点问题中,不难看出,在Hbase中RowKey的重要性。接下来,一起来看一看RowKey的设计原则
Hbase中RowKey的设计原则
Hbase由于其读写和存储的高性能,在OLAP分析中占据着越来越重要的地位,作为非关系型数据库的一员,Hbase在查询数据时,只有两种方式:
a) 通过RowKey进行查询(RowKey用来表示唯一一行记录)
b) 全表扫描,再结合过滤器筛选出目标数据,缺点是性能太低。
设计原则