Hive参数设置

set mapred.job.priority=VERY_HIGH;  --设置任务优先级

set hbase.client.scanner.caching=100000; --设置hbase每批次读取大小

set mapred.task.timeout=1800000 --设置超时时间

set mapred.reduce.tasks=8; --设置reduce数量

set hive.exec.parallel=true; --设置是否开启并行执行

set hive.exec.parallel.thread.number=4; --设置并行数目

set mapred.job.queue.name=pcsdev; --设置提交队列

set hive.cli.print.header=true; --设置是否输出表头

set Hive.optimize.skewjoin=true; --设置倾斜数据连接重新分区

set hive.groupby.skewindata = true; --groupby倾斜数据倾斜处理

set mapred.map.max.attempts=1; --设置失败重试次数,默认重试3次

set hive.exec.compress.output=false;设置中间数据是否压缩

set hive.fetch.task.conversion=more; 不开启MR直接返回数据

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值