问题描述
Hive默认使用mr计算,在更换为tez后,运行sql时常出现以下错误:
解决方案
1.调整虚拟内存。
修改hadoop中yarn-site.xml文件
<!--关闭虚拟内存检查-->
<property>
<name>yarn.nodemanager.vmem-check-enabled</name>
<value>false</value>
</property>
2.修改最大重试次数(默认为2)
set tez.am.max.app.attempts=10;
3.开启动态分区。
set hive.exec.dynamic.partition.mode=nonstrict;
set hive.optimize.sort.dynamic.partition=true;