优化hive的性能配置

28 篇文章 0 订阅
-- 优化hive性能:tez,spark,lmpala,mapreduce; 矢量化--
set hive.execution.engine = spark;
set hive.vectorized.execution.enabled = true;
set hive.vectorized.execution.reduce.enabled = true;
## 别人的优化经验
#set hive.exec.compress.output=true;
#set mapred.output.compress=true;
#set mapred.output.compression.codec=org.apache.hadoop.io.compress.GzipCodec;
#set io.compression.codecs=org.apache.hadoop.io.compress.GzipCodec;
#set mapred.reduce.tasks=200;
#set mapreduce.reduce.shuffle.memory.limit.percent=0.10;
#set yarn.nodemanager.pmem-check-enabled=false;
#set yarn.nodemanager.vmem-check-enabled=false;
#set mapreduce.map.memory.mb=3072;
#set mapreduce.reduce.memory.mb=3072;

## ES的优化经验
#set hive.exec.dynamic.partition = true;
#set hive.exec.dynamic.partition.mode = nonstrict;
#set hive.exec.max.dynamic.partitions=10000;
#set hive.exec.max.dynamic.partitions.pernode=4000;
#set hive.mapred.reduce.tasks.speculative.execution=false;

## 书上的优化经验
set hive.auto.convert.join=true;
#set hive.exec.mode.local.auto=true;
#set hive.exec.parallel=true; #太吓人,禁止使用。

## 网上的优化经验
#set hive.groupby.skewindata=true;

## 自己的优化经验
#set hive.execution.engine = spark;
#set hive.vectorized.execution.enabled = true;
#set hive.vectorized.execution.reduce.enabled = true;
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值