问题描述
如图:在采用hbase 的bulkload方式load数据的时候,报如上错误
分析:
hbase的默认一个region下默认只能最大有32个hfile文件,默认的hfile的文件大小最大为1G,也就是说一个region里面最多只能放32G,一个批次最大的量就是32G,这样远远不能解决问题, 所以需要调大相应的参数来解决问题
解决方案
在hbase-site.xml更改这两个参数来调整
当然在生产环境中一般是不能去随便修改配置文件的,所以可以用代码的方式去设置
hbaseconf.setInt("hbase.mapreduce.bulkload.max.hfiles.perRegion.perFamily", 1000000);
hbaseconf.set("hbase.hregion.max.filesize", "10737418240")
重新启动,问题解决!!