hive的压缩

最新推荐文章于 2023-09-05 15:48:33 发布

刘跃盛

最新推荐文章于 2023-09-05 15:48:33 发布

阅读量198

点赞数

分类专栏： hive hadoop 大数据文章标签： hive 大数据 hadoop mapreduce

本文链接：https://blog.csdn.net/a13813972564/article/details/118611683

版权

本文介绍了在Hive中启用压缩以减少网络传输量的方法，包括开启map和reduce阶段的压缩，以及设置Snappy作为压缩编码器。通过设置hive.exec.compress.intermediate、mapreduce.map.output.compress等参数，可以实现数据的中间传输和最终输出压缩，从而提高效率。

摘要由CSDN通过智能技术生成

压缩减少网络传输量
在这里插入图片描述

==hive当中使用的压缩方式是：snappy
hadoop2 默认本地库不支持snappy的压缩需要重新编译hadoop让其支持本地库的压缩

开启map的输出阶段压缩可以减少job中map和reduce task间数据传输量，具体配置如下：
案例实操：
1）开启hive中间传输数据压缩功能
hive (default)>set hive.exec.compress.intermediate=true;
2）开启mapreduce中map输出压缩功能
hive (default)>set mapreduce.map.output.compress=true;
3）设置mapreduce中map输出数据的压缩方式
hive (default)>set mapreduce.map.output.compress.codec= org.apache.hadoop.io.compress.SnappyCodec;
4）执行查询语句
select count(1) from score;
6.4 开启Reduce输出阶段压缩
当Hive将输出写入到表中时，输出内容同样可以进行压缩。属性hive.exec.compress.output控制着这个功能。用户可能需要保持默认设置文件中的默认值false，这样默认的输出就是非压缩的纯文本文件了。用户可以