hbase添加大文件

一直使用hbase作大容量存储,因为hbase易于存取。

今天,在录入数据的时候,突然报出一个KeyValue size too large。很是奇怪。

后来发现,该数据特别大,经查源码

Java代码   收藏代码
  1. private void validatePut(final Put put) throws IllegalArgumentException{  
  2.     if (put.isEmpty()) {  
  3.       throw new IllegalArgumentException("No columns to insert");  
  4.     }  
  5.     if (maxKeyValueSize > 0) {  
  6.       for (List<KeyValue> list : put.getFamilyMap().values()) {  
  7.         for (KeyValue kv : list) {  
  8.          if (kv.getLength() > maxKeyValueSize) {
  9.             throw new IllegalArgumentException("KeyValue size too large");  
  10.           }  
  11.         }  
  12.       }  
  13.     }  
  14.   }  

 说明当某一列的值大于该值的时候,将会抛出该异常,又查看maxKeyValueSize,发现它调用的是hbase配置里的hbase.client.keyvalue.maxsize,默认大小为10M,即 10485760 。将它改大即可。

但是,当我修改完以后,启动hbase总是出问题,后来又将hbase-env.sh里的HBASE_HEAPSIZE改大。

后来又将mapred-site.xml中的mapred.tasktracker.indexcache.mb改大,至于大于hbase.client.keyvalue.maxsize,不知道有没有影响,以防万一吧,我觉得hbase的执行应该是跟job有关系的吧。

请大家多多指教

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值