hbase实战 与mysql_HBase实战系列1—压缩与编码技术

本文详细介绍了HBase的压缩与编码配置,包括安装LZO的步骤和配置参数,以及各种压缩和编码方式对存储空间和扫描、随机读、写操作效率的影响。实验结果显示,LZO压缩和FAST_DIFF编码各有优缺点,应根据具体应用场景选择合适的方式。
摘要由CSDN通过智能技术生成

1、hbase压缩与编码的配置 安装LZO 解决方案: 1)apt-get install liblzo2-dev 2)hadoop-gpl-compression-0.2.0-dev.jar 放入classpath 把libgpl下的共享库文件放入/opt/hbase/hbase/lib/native/Linux-amd64-64/ libgplcompression.a libgplcompression.la

1、hbase压缩与编码的配置

安装LZO

解决方案:

1)apt-get install liblzo2-dev

2)hadoop-gpl-compression-0.2.0-dev.jar 放入classpath

把libgpl下的共享库文件放入/opt/hbase/hbase/lib/native/Linux-amd64-64/

libgplcompression.a libgplcompression.la libgplcompression.so libgplcompression.so.0 libgplcompression.so.0.0.0

3)配置:

io.compression.codecs

com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec

io.compression.codec.lzo.class

com.hadoop.compression.lzo.LzoCodec

4)测试:

hbase org.apache.hadoop.hbase.util.CompressionTest hdfs:///user.dat lzo

创建表格时,针对ColumnFamily设置压缩和编码方式。

HColumnDescriptor.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值