Trafodion 安装之HBase配置优化

Trafodion安装后,建议对HBase的配置参数做一些调整,如TimeOut相关,这些参数的调整可以减少甚至避免某些因为超时而导致的错误。

Trafodion的安装脚本中已经做了部分HBase的配置调整,但可能不够全面,本文列出相关需要调整的参数,帮助大家在下次需要相关因为配置不当导致错误的时候可以做为借鉴。

参数推荐值
hbase.master.distributed.log.splittingfalse
hbase.coprocessor.region.classesorg.apache.hadoop.hbase.coprocessor.transactional.TrxRegionObserver, org.apache.hadoop.hbase.coprocessor.transactional.TrxRegionEndpoint, org.apache.hadoop.hbase.coprocessor.AggregateImplementation
hbase.hregion.implorg.apache.hadoop.hbase.regionserver.transactional.TransactionalRegion
hbase.regionserver.region.split.policyorg.apache.hadoop.hbase.regionserver.ConstantSizeRegionSplitPolicy 备注: 这个设置将会导致region只会在达到文件最大限制时才会自动分裂。
hbase.snapshot.enabledtrue
hbase.regionserver.region.transactional.hlogfalse
hbase.regionserver.region.transactional.tlogtrue
hdfs.namenode.java.heapsize 仅对CDH适用1073741824 (1GB)
hdfs.secondary.namenode.java.heapsize 仅对CDH适用1073741824 (1GB)
hbase.rpc.timeout10分钟,默认60秒,对于大表需要调高值,需保持和hbase.client.scanner.timeout.peroid一样。调高值会减少超时相关的错误,譬如 OutOfOrderNextException。
hbase.client.scanner.timeout.period10分钟,默认60秒,可以减少大表count(*)或update statistics的超时问题
hbase.snapshot.master.timeoutMillis10分钟,默认60秒,当使用Bulk Loader或与HBase快照相关的超时问题需要调高值
hbase.snapshot.region.timeout10分钟,与上述相同
hbase.hregion.max.filesize107374182400 bytes(100GB),默认10G,增加到100G会减少HBase表的HStoreFiles数目,也会减少因为split造成的影响
hbase.hstore.blockingStoreFiles10
hbase.regionserver.handler.count此设置需要与mxosrvr的并发会话数匹配,默认值是10
Region Server Java Heap Size小型集群(16G),推荐2GB;中型集群(64G),推荐8GB;大型集群(>=128G),推荐16GB
hbase.regionserver.thread.compaction.small磁盘数的一半
hbase.regionserver.thread.compaction.large磁盘数的一半

除了HBase的配置调整,对HDFS配置可能也需要一些调整,主要包括Namenode和Datanode的Heap Size,如下

HDFS参数推荐值备注
Datanode Java Heap Size2GB大型配置中应用,如内存>=128G
Namenode Java Heap Size2GB大型配置中应用,如内存>=128G
Secondary Namenode Java Heap Size2GB大型配置中应用,如内存>=128G
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

数据源的港湾

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值