HBase的RegionServer参数配置

最新推荐文章于 2024-11-16 16:05:16 发布

michael_zhu_2004

最新推荐文章于 2024-11-16 16:05:16 发布

阅读量7k

点赞数 1

分类专栏： Hadoop

本文链接：https://blog.csdn.net/michael_zhu_2004/article/details/8330798

版权

本文主要讨论了HBase RegionServer的几个关键参数，如hbase.hregion.max.filesize、hbase.regionserver.global.memstore.upperLimit/lowerLimit、hbase.hstore.blockingStoreFiles和hbase.hregion.memstore.block.multiplier。通过调整这些参数，可以优化split和compaction的频率，防止内存占用过高，以及平衡读写性能。手动split和合理设置阈值可以提升HBase系统的稳定性和性能。

摘要由CSDN通过智能技术生成

hbase.hregion.max.filesize
默认值：256M
说明：在当前ReigonServer上单个Reigon的最大存储空间，单个Region超过该值时，这个Region会被自动split成更小的region。
调优：
小region对split和compaction友好，因为拆分region或compact小region里的storefile速度很快，内存占用低。缺点是split和compaction会很频繁。
特别是数量较多的小region不停地split, compaction，会导致集群响应时间波动很大，region数量太多不仅给管理上带来麻烦，甚至会引发一些Hbase的bug。
一般512以下的都算小region。

大region，则不太适合经常split和compaction，因为做一次compact和split会产生较长时间的停顿，对应用的读写性能冲击非常大。此外，大region意味着较大的storefile，compaction时对内存也是一个挑战。
当然，大region也有其用武之地。如果你的应用场景中，某个时间点的访问量较低，那么在此时做compact和split，既能顺利完成split和compaction，又能保证绝大多数时间平稳的读写性能。

既然split和compaction如此影响性能，