Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask.

 
 问题描述:
    hql语句周期性调度执行,在某个时间后经常出现如下报错
    FAILED: Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask. Failed to create Spark client for Spark session 
    报错的语句都是设置了 set hive.execution.engine=spark;参数,
    
    原因: 发现yarn中应用程序新增了很多任务,flink任务持续占用着资源导致资源满了

 


    
    解决方案:
        在hive 参数中搜索"hive-site.xml 的 HiveServer2 高级配置代码段(安全阀)" ,
        其中添加如下3个参数
        hive.spark.client.connect.timeout=30000
        hive.spark.client.server.connect.timeout=300000
        hive.spark.client.future.timeout=1200

 

 

  • 0
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值