Hive-Snappy压缩格式设置与规范

本文由FuRenjie撰写,探讨了Hive的输出压缩设置,指出默认为false,可通过set hive.exec.compress.output=true启用。文章还对比了GZIP、LZO和Snappy三种压缩格式,强调Snappy在压缩率较低的情况下,提供了更快的压缩和解压速度,适合Hadoop 2.0环境。配置Snappy压缩需在mapred-site.xml中指定相关参数。
摘要由CSDN通过智能技术生成

Author: FuRenjie


1、Hive启动输出压缩

在hive中先检查hive的输出压缩是否启动(默认为false),设置为true:

set hive.exec.compress.output=true;

 

2、主流压缩格式比较

以下是Google几年前发布的一组测试数据(数据有些老了,有人近期做过测试的话希望能共享出来):

Algorithm

% remaining

Encoding

Decoding

GZIP

13.4%

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值