hbase预分region方法

hbsae表使用VIN(车架号 每个车辆唯一的编号 17位)
作为rowkey,但是VIN分布并不均匀,因此在数据量很大的时候需要考虑自定义预分region间隔区间:

use asmp;
select sub,count(1) n from (select substring(vin,1,5) as sub from tt_repair_deed_tmp where partition_brand='vw') a
group by sub order by n desc

select sub,count(1) n from (select substring(vin,1,7) as sub from tt_repair_deed_tmp where partition_brand='vw') a
group by sub order by n desc

select sub,count(1) n from (select substring(vin,1,9) as sub from tt_repair_deed_tmp where partition_brand='vw') a
group by sub order by n desc

select sub,count(1) n from (select substring(vin,1,11) as sub from tt_repair_deed_tmp where partition_brand='vw') a
group by sub order by n desc

按照4位划分region
在这里插入图片描述
在这里插入图片描述
按照5位划分region
在这里插入图片描述
按照7位划分region
在这里插入图片描述
按照9位划分region
在这里插入图片描述
正常来说有多少region会产生多少reduce,如果reduce太多占用资源也会很多,因此选择按照5位划分region。

然后自定义vin_split文件

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
HBase 中,预分区是一个很重要的概念,它可以提高 HBase 的性能和可伸缩性。预分区是指在创建 HBase 表时,手动指定表的分区键,以便将数据分布到多个 Region 中。预分区的目的是让数据分布均匀,避免某个 Region 过大而导致负载不均衡的情况。 预分区的设计需要考虑以下几个因素: 1. 数据的访问模式:首先需要了解数据的访问模式,比如是否是范围查询、随机查询等,以便根据不同的访问模式来设计预分区。 2. 数据的分布情况:需要了解数据的分布情况,比如数据的热点区域、数据的更新频率等,以便根据不同的分布情况来设计预分区。 3. 期的数据量:需要估未来的数据量,以便根据数据量来设计预分区。 4. 集群的硬件配置:需要了解集群的硬件配置,比如服务器的数量、内存大小、磁盘容量等,以便根据硬件配置来设计预分区。 在设计预分区时,可以采用以下几种策略: 1. 均匀分区:将表的分区键分成相等的若干部分,每个分区大小相等。 2. 范围分区:根据数据的范围来划分分区,比如按照时间范围来划分分区。 3. 哈希分区:根据分区键的哈希值来划分分区,可以确保数据分布均匀。 4. 混合分区:可以将多种分区策略组合起来使用,以便充分利用各种策略的优点。 需要注意的是,预分区的设计需要根据实际情况进行调整和优化,以便达到最佳的性能和可伸缩性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值