hive执行job的时候报错:hadoop.hive.ql.exec.tez.TezTask

这几天刚安装好ambari集成下的hadoop生态环境,对大部分配置都不熟悉,基本都是按默认的来,但是在用hive发现了不少问题,以下是两点困扰了较久的问题,不比比,直接上过程:
1.在服务器进入hive的时候输入hive指令,会卡在界面上,不会进入hive数据库,也没有报错,只是有个警告,说是hive.custom-extensions.root不存在,然后博主就这个在ambari管理界面下的hive配置里面找到对应的配置,改成对应的hdfs下的路径,但是并没有用,然后查看yarn application管理界面,发现有一个paalication一直卡死在运行中,但是进度不动,所以后面的指令一直都会卡着,但是在界面上并没有杀死进程的功能,我们进入服务器对应的机器下,使用yarn的指令,杀死该进程yarn application -kill 对应的applicationid,然后回来执行hive,就可以进入数据库了.但是第一次进入花了10分钟,这个问题不知道是不是其他配置的问题导致的,有待考究.
2.执行count(*)查询时报错:hadoop.hive.ql.exec.tez.TezTask
执行select * from table的时候是不会进行mapreduce工作的,只是在hive数据库单独查询,一般是没有问题的,但是select count(*) from table 就会执行mapreuce,生成一个job跟hdfs进行交互,楼主也会一直卡死,然后进程一直堵在那里,后面的操作都进行不了,同理也是直接删除了那个卡死的进程id,设置timeout配置,时间加长,然后重启hive跟tez即可

1.在服务器进入hive的时候输入hive指令,会卡在界面上,不会进入hive数据库,也没有报错,只是有个警告,说是hive.custom-extensions.root不存在,然后博主就这个在ambari管理界面下的hive配置里面找到对应的配置,改成对应的hdfs下的路径,但是并没有用,然后查看yarn application管理界面,发现有一个paalication一直卡死在运行中,但是进度不动,所以后面的指令一直都会卡着,但是在界面上并没有杀死进程的功能,我们进入服务器对应的机器下,使用yarn的指令,杀死该进程yarn application -kill 对应的applicationid,然后回来执行hive,就可以进入数据库了.但是第一次进入花了10分钟,这个问题不知道是不是其他配置的问题导致的,有待考究.
2.执行count(*)查询时报错:hadoop.hive.ql.exec.tez.TezTask
执行select * from table的时候是不会进行mapreduce工作的,只是在hive数据库单独查询,一般是没有问题的,但是select count(*) from table 就会执行mapreuce,生成一个job跟hdfs进行交互,楼主也会一直卡死,然后进程一直堵在那里,后面的操作都进行不了,同理也是直接删除了那个卡死的进程id,设置timeout配置,时间加长,然后重启hive跟tez即可

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
这个错误是在运行Hive时出现的,报错信息为"FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.tez.TezTask"。这通常是由于内存不足导致的问题。根据引用中的解决方案,可以尝试以下两种方法来解决这个问题。 第一种方法是关闭虚拟内存检查。你可以修改yarn-site.xml文件,将yarn.nodemanager.vmem-check-enabled的值设置为false。具体操作如下: ```bash cd /opt/module/hadoop-3.1.3/etc/hadoop vim yarn-site.xml <property> <name>yarn.nodemanager.vmem-check-enabled</name> <value>false</value> </property> ``` 第二种方法是在mapred-site.xml中设置Map和Reduce任务的内存配置。你可以根据自己的机器内存大小和应用情况修改以下配置: ```bash <property> <name>mapreduce.map.memory.mb</name> <value>1536</value> </property> <property> <name>mapreduce.map.java.opts</name> <value>-Xmx1024M</value> </property> <property> <name>mapreduce.reduce.memory.mb</name> <value>3072</value> </property> <property> <name>mapreduce.reduce.java.opts</name> <value>-Xmx2560M</value> </property> ``` 通过尝试这两种方法,你应该能够解决"FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.tez.TezTask"的问题。希望对你有帮助。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [已解决:FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.tez.TezTask](https://blog.csdn.net/qq_43408367/article/details/128601584)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.tez.TezTask](https://blog.csdn.net/weixin_44870066/article/details/123902421)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值