使用SNAPPY压缩遇到compression test fail问题解决

 

转载请标明出处:http://blackwing.iteye.com/blog/1943575 

 

之前为HBase增加SNAPPY压缩的一篇文章:http://blackwing.iteye.com/blog/1942037 

本以为这样hbase就能使用SNAPPY了,但发现RS的log不停报错: 

Java代码   收藏代码
  1. IOException: Compression algorithm 'snappy' previously failed test  



根据官方教程再做一遍:http://hbase.apache.org/book/snappy.compression.html 

还是报错,后来发现差异。服务器安装的是ubuntu 64位版本,在hadoop的lib/native/下是Linux-amd64-64文件夹,而在HBase的lib/native目录下默认却是Linux-i386-32,我就是把hadoop和snappy的native so文件拷贝到Linux-i386-32下。 

所以在hbase的lib/natvie下新建Linux-amd64-64,再把hadoop、snappy的so文件拷过来,重启hbase,再创建表: 

Java代码   收藏代码
  1. create 'snappy',{NAME=>'t',COMPRESSION=>'SNAPPY'}  



rs的log正常,跟着写入数据,flush后,看到已经正常压缩,rs log无错误。到此终于完整了整合snappy。 


PS:确保HBASE能正确加载codec,可以在hbase-site.xml中配置: 

Java代码   收藏代码
  1. <property>  
  2. <name>hbase.regionserver.codecs</name>  
  3. <value>snappy</value>  
  4. </property>  
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值