hive---压缩和存储

-orc(占用空间小)+Snappy(压缩效率高)(常用)

  • 修改Hadoop集群具有Snappy压缩方式
    • 查看hadoop支持的压缩方式
      • hadoop checknative
    • 开启Map输出阶段压缩
      • set hive.exec.compress.intermediate=true;
      • set mapreduce.map.output.compress=true;
      • set mapreduce.map.output.compress.codec = org.apache.hadoop.io.compress.SnappyCodec;
    • 开启Reduce输出阶段压缩
      • set hive.exec.compress.output=true;
      • set mapreduce.output.fileoutputformat.compress=true;
      • set mapreduce.output.fileoutputformat.compress.codec = org.apache.hadoop.io.compress.SnappyCodec;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值