Hbase十种优化

本文详细探讨了Hbase的优化方法,包括内存优化、允许文件追加、调整DataNode设置、优化写入效率和客户端缓存等。通过对Memstore阈值和RPC监听数量等关键参数的调整,以及合理控制flush、compact和split机制,可以显著提高Hbase的性能和稳定性。
摘要由CSDN通过智能技术生成

一、内存优化
HBase 操作过程中需要大量的内存开销,毕竟 Table 是可以缓存在内存中的,一般会分配整个可用内存的 70%给 HBase 的 Java 堆。但是不建议分配非常大的堆内存,因为 GC 过程持续太久会导致 RegionServer 处于长期不可用状态,一般 16~48G 内存就可以了,如果因为框架占用内存过高导致系统内存不足,框架一样会被系统服务拖死。

二、允许在 HDFS 的文件中追加内容

	hdfs-site.xml、hbase-site.xml
属性:dfs.support.append
解释:开启HDFS 追加同步,可以优秀的配合 HBase 的数据同步和持久化。	默认值为 true。

三、优化 DataNode 允许的最大文件打开数

	hdfs-site.xml
属性:dfs.datanode.max.transfer.threads
解释:HBase 一般都会同一时间操作大量的文件,根据集群的数量和规模以及数据动作,设置为 4096 或者更高。默认值:4096

四、优化延迟高的数据操作的等待时间

	hdfs-site.xml
属性:dfs.image.transfer.timeout
解释:如果对于某一次数据操作来讲,延迟非常高,socket 需要等待更长的时间,建议把该值设置为更大的值(默认 60000 毫秒),以确保 socket 不会被 timeout 掉。

五、优化数据的写入效率

	mapred-site.xml
属 性 : mapreduce.map.output.compress mapreduce.map.output.compress.co
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值