HBASE优化II

hbase调优


1、高可用
   Hmaster 负责监控 RegionServer 的生命周期,均衡 RegionServer 的负载
2、预分区
3、rowkey的设计
   散列原则、长度原则
4、hbase的列族不宜太多,两个就已经很多了(列族多会增加寻址,影响效率;如,region分裂时,是按rowkey来切割,会被分到不同hregionserver上,寻址复杂)
5、关闭Hlog(因地制宜,提高写性能)
6、是否立即刷写磁盘(memstore刷写磁盘、region分裂大小)
7、对hbase的写数据尽量批量操作(因为写数据根据rowkey写,如果存在多个列族会到对应目录下插入)


hbase的参数配置优化:
hbase.hregion.memstore.flush.size 默认128M,数据写入速度非常快的时候可以调整加大内存(memstore刷写磁盘)
hbase.hregion.max.filesize 默认大小10G(region分裂)
hbase.hregion.majorcompaction  major合并的时间
     默认7天执行一次,将多个storefile合并,会将过期的,超出版本数量的、标记为删除的数据都
     进行删除(一般要在系统空闲的时候去做,因为需要大量的磁盘IO),一般会设置手动执行
hbase.regionserver.handler.count  hregionserver的操作线程数

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值